RabbitMQ如何避免消息重复投递或重复消费
内容导读
互联网集市收集整理的这篇技术教程文章主要介绍了RabbitMQ如何避免消息重复投递或重复消费,小编现在分享给大家,供广大互联网技能从业者学习和参考。文章包含1918字,纯文字阅读大概需要3分钟。
内容图文
文章目录
1、重复投递
MQ消息发送上半场,即上图中的1-3
- 发送端MQ-client将消息发给服务端MQ-server
- 服务端MQ-server将消息落地(持久化到硬盘的日志文件中)
- 服务端MQ-server回ACK给发送端MQ-client
如果3丢失,发送端MQ-client超时后会重发消息,可能导致服务端MQ-server收到重复消息。
此时重发是MQ-client发起的,消息的处理是MQ-server,为了避免步骤2落地重复的消息,对每条消息,MQ系统内部必须生成一个inner-msg-id,作为去重和幂等的依据,这个内部消息ID的特性是:
- 全局唯一
- MQ生成,具备业务无关性,对消息发送方和消息接收方屏蔽
有了这个inner-msg-id,就能保证即使重发,也只有1条消息落到MQ-server的DB中,实现上半场幂等。
2、重复消费
MQ消息发送下半场,即上图中的4-6
- 服务端MQ-server将消息发给接收端MQ-client
- 接收端MQ-client回ACK给服务端
- 服务端MQ-server将落地消息(持久化到硬盘的日志文件中)删除
需要强调的是,接收端MQ-client回ACK给服务端MQ-server,是消息消费业务方的主动调用行为,不能由MQ-client自动发起,因为MQ系统不知道消费方什么时候真正消费成功。
如果5丢失,服务端MQ-server超时后会重发消息,可能导致MQ-client收到重复的消息。
此时重发是MQ-server发起的,消息的处理是消息消费业务方,消息重发势必导致业务方重复消费(上例中的一次付款,重复发卡),为了保证业务幂等性,业务消息体中,必须有一个biz-id,作为去重和幂等的依据,这个业务ID的特性是:
- 对于同一个业务场景,全局唯一
- 由业务消息发送方生成,业务相关,对MQ透明
- 由业务消息消费方负责判重,以保证幂等
最常见的业务ID有:支付ID,订单ID,帖子ID等。
具体到支付购卡场景,发送方必须将支付ID放到消息体中,消费方必须对同一个支付ID进行判重,保证购卡的幂等。
有了这个业务ID,才能够保证下半场消息消费业务方即使收到重复消息,也只有1条消息被消费,保证了幂等。
3、总结
MQ为了保证消息必达,消息上下半场均可能发送重复消息,如何保证消息的幂等性呢?
生产者投递:
-
MQ-client生成inner-msg-id,保证上半场幂等。
-
这个ID全局唯一,业务无关,由MQ保证。
消费者消费:
-
业务发送方带入biz-id,业务接收方去重保证幂等。
-
这个ID对单业务唯一,业务相关,对MQ透明。
结论:幂等性,不仅对MQ有要求,对业务上下游也有要求
内容总结
以上是互联网集市为您收集整理的RabbitMQ如何避免消息重复投递或重复消费全部内容,希望文章能够帮你解决RabbitMQ如何避免消息重复投递或重复消费所遇到的程序开发问题。 如果觉得互联网集市技术教程内容还不错,欢迎将互联网集市网站推荐给程序员好友。
内容备注
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 gblab@vip.qq.com 举报,一经查实,本站将立刻删除。
内容手机端
扫描二维码推送至手机访问。