当前位置: 首页 > >

几种常见的消息中间件对比

发布时间:

2019独角兽企业重金招聘Python工程师标准>>>




常见消息中间件介绍

当前使用较多的消息队列有RabbitMQ、RocketMQ、ActiveMQ、Kafka、ZeroMQ、MetaMQ等,而部分数据库如Redis、MySQL以及phxsql也可实现消息队列的功能。



消息队列概述

消息队列是指利用高效可靠的消息传递机*杏*台无关的数据交流,并基于数据通信来进行分布式系统的集成。



RabbitMQ

RabbitMQ于2007年发布,是一个在AMQP(高级消息队列协议)基础上完成的,可复用的企业消息系统,是当前最主流的消息中间件之一。



主要特性
    可靠性:提供了多种技术可以让你在性能和可靠性之间进行权衡。这些技术包括持久性机制、投递确认、发布者证实和高可用性机制;灵活的路由:消息在到达队列前是通过交换机进行路由的。RabbitMQ为典型的路由逻辑提供了多种内置交换机类型。如果你有更复杂的路由需求,可以将这些交换机组合起来使用,你甚至可以实现自己的交换机类型,并且当做RabbitMQ的插件来使用;消息集群:在相同局域网中的多个RabbitMQ服务器可以聚合在一起,作为一个独立的逻辑代理来使用;队列高可用:队列可以在集群中的机器上进行镜像,以确保在硬件问题下还保证消息安全;支持多种协议:支持多种消息队列协议;支持多种语言:用Erlang语言编写,支持只要是你能想到的所有编程语言;管理界面:RabbitMQ有一个易用的用户界面,使得用户可以监控和管理消息Broker的许多方面;跟踪机制:如果消息异常,RabbitMQ?提供消息跟踪机制,使用者可以找出发生了什么;插件机制:提供了许多插件,来从多方面进行扩展,也可以编写自己的插件。


优点
    由于Erlang语言的特性,消息队列性能较好,支持高并发;健壮、稳定、易用、跨*台、支持多种语言、文档齐全;有消息确认机制和持久化机制,可靠性高;高度可定制的路由;管理界面较丰富,在互联网公司也有较大规模的应用,社区活跃度高。


缺点
    尽管结合 Erlang 语言本身的并发优势,性能较好,但是不利于做二次开发和维护;实现了代理架构,意味着消息在发送到客户端之前可以在中央节点上排队。此特性使得RabbitMQ易于使用和部署,但是使得其运行速度较慢,因为中央节点 增加了延迟,消息封装后也比较大;需要学*比较复杂的接口和协议,学*和维护成本较高。


RocketMQ

RocketMQ出自阿里的开源产品,用Java语言实现,在设计时参考了Kafka,并做出了自己的一些改进,消息可靠性上比Kafka更好。RocketMQ在阿里内部被广泛应用在订单,交易,充值,流计算,消息推送,日志流式处理,binglog分发等场景。



主要特性
    基于 队列模型:具有高性能、高可靠、高实时、分布式等特点;Producer、Consumer、队列都支持分布式;Producer向一些队列轮流发送消息,队列集合称为Topic。Consumer如果做广播消费,则一个Consumer实例消费这个Topic对应的所有队列;如果做集群消费,则多个Consumer 实例*均消费这个Topic对应的队列集合;能够保证严格的消息顺序;提供丰富的消息拉取模式;高效的订阅者水*扩展能力;实时的消息订阅机制;亿级消息堆积 能力;较少的外部依赖。


优点
    单机支持1万以上持久化队列;RocketMQ的所有消息都是持久化的,先写入系统PAGECACHE,然后刷盘,可以保证内存与磁盘都有一份数据,而访问时,直接从内存读取。模型简单,接口易用(JMS的接口很多场合并不太实用);性能非常好,可以允许大量堆积消息在Broker中;支持多种消费模式,包括集群消费、广播消费等;各个环节分布式扩展设计,支持主从和高可用;开发度较活跃,版本更新很快。


缺点
    支持的 客户端语言不多,目前是Java及C++,其中C++还不成熟;RocketMQ社区关注度及成熟度也不及前两者;没有Web管理界面,提供了一个 CLI (命令行界面) 管理工具带来查询、管理和诊断各种问题;没有在MQ核心里实现JMS等接口;


ActiveMQ

ActiveMQ是由Apache出品,ActiveMQ是一个完全支持JMS1.1和J2EE 1.4规范的JMS Provider实现。它非常快速,支持多种语言的客户端和协议,而且可以非常容易的嵌入到企业的应用环境中,并有许多高级功能。



主要特性
    服从JMS规范:JMS 规范提供了良好的标准和保证,包括:同步 或 异步 的消息分发,一次和仅一次的消息分发,消息接收和订阅等等。遵从JMS规范的好处在于,不论使用什么JMS实现提供者,这些基础特性都是可用的;连接灵活性:ActiveMQ提供了广泛的连接协议,支持的协议有:HTTP/S,IP多播,SSL,TCP,UDP等等。对众多协议的支持让ActiveMQ拥有了很好的灵活性;支持的协议种类多:OpenWire、STOMP、REST、XMPP、AMQP;持久化插件和安全插件:ActiveMQ提供了多种持久化选择。而且,ActiveMQ的安全性也可以完全依据用户需求进行自定义鉴权和授权;支持的客户端语言种类多:除了Java之外,还有:C/C++,.NET,Perl,PHP,Python,Ruby;代理集群:多个ActiveMQ代理可以组成一个集群来提供服务;异常简单的管理:ActiveMQ是以开发者思维被设计的。所以,它并不需要专门的管理员,因为它提供了简单又使用的管理特性。有很多中方法可以监控ActiveMQ不同层面的数据,包括使用在JConsole或者在ActiveMQ的WebConsole中使用JMX。通过处理JMX的告警消息,通过使用命令行脚本,甚至可以通过监控各种类型的日志。


优点
    跨*台(JAVA编写与*台无关,ActiveMQ几乎可以运行在任何的JVM上);可以用JDBC:可以将数据持久化到数据库。虽然使用JDBC会降低ActiveMQ的性能,但是数据库一直都是开发人员最熟悉的存储介质;支持JMS规范:支持JMS规范提供的统一接口;支持自动重连和错误重试机制;有安全机制:支持基于shiro,jaas等多种安全配置机制,可以对Queue/Topic进行认证和授权;监控完善:拥有完善的监控,包括WebConsole,JMX,Shell命令行,Jolokia的RESTful API;界面友善:提供的WebConsole可以满足大部分情况,还有很多第三方的组件可以使用,比如hawtio;


缺点
    社区活跃度不及RabbitMQ高;根据其他用户反馈,会出莫名其妙的问题,会丢失消息;目前重心放到activemq6.0产品Apollo,对5.x的维护较少;不适合用于上千个队列的应用场景;


Kafka

Apache Kafka是一个分布式消息发布订阅系统。它最初由LinkedIn公司基于独特的设计实现为一个分布式的日志提交系统(a distributed commit log),之后成为Apache项目的一部分。Kafka性能高效、可扩展良好并且可持久化。它的分区特性,可复制和可容错都是其不错的特性。



主要特性
    快速持久化:可以在O(1)的系统开销下进行消息持久化;高吞吐:在一台普通的服务器上既可以达到10W/s的吞吐速率;完全的分布式系统:Broker、Producer和Consumer都原生自动支持分布式,自动实现负载均衡;支持同步和异步复制两种高可用机制;支持数据批量发送和拉取;零拷贝技术(zero-copy):减少IO操作步骤,提高系统吞吐量;数据迁移、扩容对用户透明;无需停机即可扩展机器;其他特性:丰富的消息拉取模型、高效订阅者水*扩展、实时的消息订阅、亿级的消息堆积能力、定期删除机制;


优点
    客户端语言丰富:支持Java、.Net、PHP、Ruby、Python、Go等多种语言;高性能:单机写入TPS约在100万条/秒,消息大小10个字节;提供完全分布式架构,并有replica机制,拥有较高的可用性和可靠性,理论上支持消息无限堆积;支持批量操作;消费者采用Pull方式获取消息。消息有序,通过控制能够保证所有消息被消费且仅被消费一次;有优秀的第三方KafkaWeb管理界面Kafka-Manager;在日志领域比较成熟,被多家公司和多个开源项目使用。


缺点
    Kafka单机超过64个队列/分区时,Load时会发生明显的飙高现象。队列越多,负载越高,发送消息响应时间变长;使用短轮询方式,实时性取决于轮询间隔时间;消费失败不支持重试;支持消息顺序,但是一台代理宕机后,就会产生消息乱序;社区更新较慢。


常见消息中间就对比分析图



适用场景

从公司基础建设力量角度
    中小型软件公司,建议选RabbitMQ,一方面,erlang语言天生具备高并发的特性,而且他的管理界面用起来十分方便。他的弊端也在这里,虽然RabbitMQ是开源的,然而国内有几个能定制化开发erlang的程序员呢?所幸,RabbitMQ的社区十分活跃,可以解决开发过程中遇到的bug,这点对于中小型公司来说十分重要。不考虑RocketMQ和kafka的原因是,一方面中小型软件公司不如互联网公司,数据量没那么大,选消息中间件,应首选功能比较完备的,所以kafka排除。不考虑RocketMQ的原因是,RocketMQ是阿里出品,如果阿里放弃维护RocketMQ,中小型公司一般抽不出人来进行RocketMQ的定制化开发,因此不推荐。大型软件公司,根据具体使用在RocketMQ和kafka之间二选一。一方面,大型软件公司,具备足够的资金搭建分布式环境,也具备足够大的数据量。针对RocketMQ,大型软件公司也可以抽出人手对RocketMQ进行定制化开发,毕竟国内有能力改JAVA源码的人,还是相当多的。至于kafka,根据业务场景选择,如果有日志采集功能,肯定是首选kafka了。


从业务场景角度出发
    RocketMQ定位于非日志的可靠消息传输(日志场景也OK),目前RocketMQ在阿里集团被广泛应用在订单,交易,充值,流计算,消息推送,日志流式处理,binglog分发等场景。Kafka是LinkedIn开源的分布式发布-订阅消息系统,目前归属于Apache定级项目。Kafka主要特点是基于Pull的模式来处理消息消费,追求高吞吐量,一开始的目的就是用于日志收集和传输。0.8版本开始支持复制,不支持事务,对消息的重复、丢失、错误没有严格要求,适合产生大量数据的互联网服务的数据收集业务。RabbitMQ是使用Erlang语言开发的开源消息队列系统,基于AMQP协议来实现。AMQP的主要特征是面向消息、队列、路由(包括点对点和发布/订阅)、可靠性、安全。AMQP协议更多用在企业系统内,对数据一致性、稳定性和可靠性要求很高的场景,对性能和吞吐量的要求还在其次。








转载于:https://my.oschina.net/blogByRzc/blog/3012251



友情链接: