消息中间件——分布式消息的广播员

综述消息中间件是一种由消息传送机制或消息队列模式组成的最典型的中间件技术。通过消息中间件，应用程序或组件之间可以进行可靠的异步通讯来降低系统之间的耦合度，从而提高整个系统的可扩展性和可用性。

3.1、Notify

Notify是淘宝自主研发的一套消息服务引擎，是支撑双11最为核心的系统之一，在淘宝和支付宝的核心交易场景中都有大量使用。消息系统的核心作用就是三点：解耦，异步和并行。下面让我以一个实际的例子来说明一下解耦异步和并行分别所代表的具体意义吧：

假设我们有这么一个应用场景，为了完成一个用户注册淘宝的操作，可能需要将用户信息写入到用户库中，然后通知给红包中心给用户发新手红包，然后还 需要通知支付宝给用户准备对应的支付宝账号，进行合法性验证，告知sns系统给用户导入新的用户等10步操作。那么针对这个场景，一个最简单的设计方法就 是串行的执行整个流程，如图3-1所示：

这种方式的最大问题是，随着后端流程越来越多，每步流程都需要额外的耗费很多时间，从而会导致用户更长的等待延迟。自然的，我们可以采用并行的方式来完成业务，能够极大的减少延迟，如图3-2所示。

但并行以后又会有一个新的问题出现了，在用户注册这一步，系统并行的发起了4个请求，那么这四个请求中，如果通知SNS这一步需要的时间很长，比 如需要10秒钟的话，那么就算是发新手包，准备支付宝账号，进行合法性验证这几个步骤的速度再快，用户也仍然需要等待10秒以后才能完成用户注册过程。因 为只有当所有的后续操作全部完成的时候，用户的注册过程才算真正的“完成”了。用户的信息状态才是完整的。而如果这时候发生了更严重的事故，比如发新手红 包的所有服务器因为业务逻辑bug导致down机，那么因为用户的注册过程还没有完全完成，业务流程也就是失败的了。这样明显是不符合实际的需要的，随着 下游步骤的逐渐增多，那么用户等待的时间就会越来越长，并且更加严重的是，随着下游系统越来越多，整个系统出错的概率也就越来越大。

通过业务分析我们能够得知，用户的实际的核心流程其实只有一个，就是用户注册。而后续的准备支付宝，通知sns等操作虽然必须要完成，但却是不需要让用户等待的。这种模式有个专业的名词，就叫最终一致。为了达到最终一致，我们引入了MQ系统。业务流程如下：

主流程如图3-3所示：

核心原理

Notify在设计思路上与传统的MQ有一定的不同，他的核心设计理念是

1. 为了消息堆积而设计系统
2. 无单点，可自由扩展的设计

下面就请随我一起，进入到我们的消息系统内部来看看他设计的核心原理

为了消息堆积而设计系统在市面上的大部分MQ产品，大部分的核心场景就是点对点的消息传输通道，然后非常激进的使用内存来提升整体的系统性能，这样做虽然标称的tps都能达到很高，但这种设计的思路是很难符合大规模分布式场景的实际需要的。

在实际的分布式场景中，这样的系统会存在着较大的应用场景瓶颈，在后端有大量消费者的前提下，消费者出现问题是个非常常见的情况，而消息系统则必须能够在后端消费不稳定的情况下，仍然能够保证用户写入的正常并且TPS不降，是个非常考验消息系统能力的实际场景。

也因为如此，在Notify的整体设计中，我们最优先考虑的就是消息堆积问题，在目前的设计中我们使用了持久化磁盘的方式，在每次用户发消息到Notify的时候都将消息先落盘，然后再异步的进行消息投递，而没有采用激进的使用内存的方案来加快投递速度。

这种方式，虽然系统性能在峰值时比目前市面的MQ效率要差一些，但是作为整个业务逻辑的核心单元，稳定，安全可靠是系统的核心诉求。

无单点，可自由扩展的设计

图3-5展示了组成Notify整个生态体系的有五个核心的部分。

• 发送消息的集群这主要是业务方的机器，这些APP的机器上是没有任何状态信息的，可以随着用户请求量的增加而随时增加或减少业务发送方的机器数量，从而扩大或缩小集群能力。
• 配置服务器集群(Config server)这个集群的主要目的是动态的感知应用集群，消息集群机器上线与下线的过程，并及时广播给其他集群。如当业务接受消息的机器下线 时，config server会感知到机器下线，从而将该机器从目标用户组内踢出，并通知给notify server，notify server 在获取通知后，就可以将已经下线的机器从自己的投递目标列表中删除，这样就可以实现机器的自动上下线扩容了。
• 消息服务器(Notify Server)消息服务器，也就是真正承载消息发送与消息接收的服务器，也是一个集群，应用发送消息时可以随机选择一台机器进行消息发送，任意一台 server 挂掉，系统都可以正常运行。当需要增加处理能力时，只需要简单地增加notify Server就可以了
• 存储(Storage)Notify的存储集群有多种不同的实现方式，以满足不同应用的实际存储需求。针对消息安全性要求高的应用，我们会选 择使用多份落盘的方式存储消息数据，而对于要求吞吐量而不要求消息安全的场景，我们则可以使用内存存储模型的存储。自然的，所有存储也被设计成了随机无状 态写入存储模型以保障可以自由扩展。
• 消息接收集群业务方用于处理消息的服务器组，上下线机器时候也能够动态的由config server 感知机器上下线的时机，从而可以实现机器自动扩展。

3.2、Notify双11准备与优化

在双11的整个准备过程中，Notify都承载了非常巨大的压力，因为我们的核心假定就是后端系统一定会挂，而我们需要能够承载整个交易高峰内的 所有消息都会堆积在数据库内的实际场景。在多次压测中，我们的系统表现还是非常稳定的，以60w/s的写入量堆积4.5亿消息的时候，整个系统表现非常淡 定可靠。在真正的大促到来时，我们的后端系统响应效率好于预期，所以我们很轻松的就满足了用户所有消息投递请求，比较好的满足了用户的实际需要。

3.3、MetaQ

METAQ是一款完全的队列模型消息中间件，服务器使用Java语言编写，可在多种软硬件平台上部署。客户端支持Java、C++编程语言，已于2012年3月对外开源，开源地址是： http://metaq.taobao.org/ 。MetaQ大约经历了下面3个阶段

MetaQ简介

如图3-6所示，MetaQ对外提供的是一个队列服务，内部实现也是完全的队列模型，这里的队列是持久化的磁盘队列，具有非常高的可靠性，并且充分利用了操作系统cache来提高性能。

• 是一个队列模型的消息中间件，具有高性能、高可靠、高实时、分布式特点。
• Producer、Consumer、队列都可以分布式。
• Producer向一些队列轮流发送消息，队列集合称为Topic，Consumer如果做广播消费，则一个consumer实例消费* * 这个Topic对应的所有队列，如果做集群消费，则多个Consumer实例平均消费这个topic对应的队列集合。
• 能够保证严格的消息顺序
• 提供丰富的消息拉取模式
• 高效的订阅者水平扩展能力
• 实时的消息订阅机制
• 亿级消息堆积能力

MetaQ存储结构

MetaQ的存储结构是根据阿里大规模互联网应用需求，完全重新设计的一套存储结构，使用这套存储结构可以支持上万的队列模型，并且可以支持消息查询、分布式事务、定时队列等功能，如图3-7所示。

MetaQ单机上万队列

MetaQ内部大部分功能都靠队列来驱动，那么必须支持足够多的队列，才能更好的满足业务需求，如图所示，MetaQ可以在单机支持上万队列，这里的队列全部为持久化磁盘方式，从而对IO性能提出了挑战。MetaQ是这样解决的

MetaQ与Notify区别

• Notify侧重于交易消息，分布式事务消息方面。
• MetaQ侧重于顺序消息场景，例如binlog同步。以及主动拉消息场景，例如流计算等。

3.4、MetaQ双11准备与优化

Notify 交易消息转 MetaQ 方案改进

MetaQ 交易集群主要是 Notify 交易消息的一个镜像，旧有的方案是通过 Notify-Client 订阅 Notify 交易消息，然后再转投到 MetaQ 集群，这个方案的缺点：1. 通过消息订阅的方式给 Notify 集群带来比较大的压力 2. 一旦 MetaQ 集群处理不及时会给 Notify 造成消息的堆积，从而带来连锁不良效应。新的方案则是从Notify DB直接拉取binlog到MetaQ，它带来的优势： 1. 解放 NotifyServer 集群的压力；2. 通过 binlog 批量处理可以提升系统的吞吐量。

交易集群低延迟优化

针对不同集群运行参数调优

根据业务的特点，对不同集群的运行参数调优，如批量拉取大小，刷盘方式，数据有效期等等；同时对io调度、虚拟内存等参数进行调优，以提供更为高效的堆积。

监控与实时告警

任何一个值得信赖的系统，最低限度是需要做到及时发现并处理异常，在第一时间排除故障发生的可能，从而提高产品的可用性。在双十一活动之前，我们 实现了由 MetaQ 系统内部，根据集群状态，各消息的业务数据指标进行监控统计并主动告警，同时还能通过 Diamond 做到动态调整，从而提高监控的及时性以及灵活性。

回顾双十一活动当日，淘宝消息写入总量112亿，消息投递总量220亿，支付宝消息写入总量24亿，消息投递总量24亿。其中实时直播间集群消息写入峰值为13.1w，消息投递峰值为27.8w。

从总体上看，我们的前期准备还是比较充分的，MetaQ 各集群在高峰期表现稳定，全天表现很平稳，个别订阅组对消息进行重溯，部分消息有少量的堆积，但都没有对系统造成影响，效果还是非常好的。75%的交易在 聚石塔上完成，实时直播间交易统计延迟在1s左右，加减库存做到零超卖。

小结

目前分布式消息中间件产品已经服务于整个集团，支持了阿里集团各个公司的500多个业务应用系统。每日处理海量消息超350亿次，保证所有交易数据高可靠，高性能，分布式事务处理，是中间件团队最老牌的中间件产品之一。

补充阅读：Notify实现分布式事务的方式

资料来源： http://club.alibabatech.org/resource_detail.htm?topicId=61