Web开发来一发(八)消息中间件MQ

2024-01-28 22:32

本文主要是介绍Web开发来一发(八)消息中间件MQ,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

蚂蚁金服典型一致性MQ实现:https://yq.aliyun.com/articles/596022

一、MQ介绍

1、MQ简介

消息队列MQ是支持在分布式系统中发送和接受消息的硬件或软件基础设施,是异步RPC的主要手段之一。

运用MQ可以实现异步、系统解耦,以此提高系统响应速度。

2、MQ的核心概念

MQ的核心概念包括Broker、Producer、Consumer、Topic、Message、Queue等。

  • Broker:消息服务器,作为server提供消息核心服务。
  • Producer:消息生产者,业务的发起方,负责生产消息传输给broker。
  • Consumer:消息消费者,业务的处理方,负责从broker获取消息并进行业务逻辑处理。
  • Topic:主题,发布/订阅模式下,生产者向topic发送消息,由MQ服务器分发到不同的订阅者,实现消息的广播。
  • Queue:队列,点对点模式下,特定生产者向特定queue发送消息,消费者订阅特定的queue完成指定消息的接收
  • Message:消息体,根据不同通信协议定义的固定格式进行编码的数据包,来封装业务数据,实现消息的传输。

3、MQ的模式

MQ主要有两种模式:点对点模式和发布/订阅模式。

点对点模式下,消息生产者生产消息发送到queue中,然后消息消费者从queue中取出并且消费消息。 消息被消费以后,queue中不再存储,所以消息消费者不可能消费到已经被消费的消息。 Queue支持存在多个消费者,但是对一个消息而言,只会有一个消费者可以消费。

发布/订阅模式,使用topic作为通信载体,消息生产者将消息发布到topic中,同时有多个消息消费者消费该消息。和点对点方式不同的是,发布到topic的消息会被所有订阅者消费。

二、MQ的几个核心问题

1、如何保证消息不被重复消费?

消息体内带可区分的唯一id,消费者做消费记录,消费时根据这个id确认是否是重复消息。

2、如何保证消息的可靠传输?

  • Producer通过Broker发回的反馈确认已发送消息。

  • Broker通过消息持久化确认队列不会丢消息。

  • Consumer通过主动commit确认接收和处理过消息。

3、如何保证消息的顺序性?

参考:https://segmentfault.com/a/1190000014512075?utm_source=tag-newest

常用MQ的方案:

ActiveMQ有两个方案,一个方案是独占消息,独占消息就是在有多个消费者同时消费一个queue时,可以保证只有一个消费者可以消费消息,这个方案效率较低。另一个方案是在消息中添加GroupId,每个消费者只能消费特定的GroupId,这样既可以使消费可以并行消费,又解决负载均衡的问题。

RocketMQ的方案中,一个topic有多个queue,消息会存储在多个queue中,而一个queue只会被一个consumer消费。需要被顺序消费的消息,都发往同一个队列下,而这些消息只会被一个消费者消费。严格来说,RocketMQ类似ActiveMQ的第一个方案,效率并不高。

4、如何保证高可用?

核心思路就是集群备份。

RocketMQ集群有单master模式、多master 模式、多master多slave异步复制模式、多 master多slave同步双写模式等。RocketMQ有个NameServer,Producer 与 NameServer集群中的其中一个节点(随机选择)建立长连接,定期从 NameServer 获取 Topic 路由信息,并向提供 Topic 服务的 Broker Master 建立长连接,且定时向 Broker 发送心跳。 Consumer 同时和提供 Topic 服务的Broker Master 和Broker Slave建立长连接,既可以从 Broker Master 订阅消息,也可以从 Broker Slave 订阅消息。

RabbitMQ除了基本队列以外,还有个miror队列,当基本队列异常时,miror队列工作。

Kafka的Broker支持主备模式。

三、常见MQ简介

Kafka是LinkedIn开源的分布式发布-订阅消息系统,追求高吞吐量,常用于日志收集和传输,对消息的重复、丢失、错误没有严格要求,适合产生大量数据的互联网服务的数据收集业务。 

ActiveMQ 是Apache出品,是JMS规范的一个具体实现,JMS即Java消息服务(Java Message Service的简称),是Java EE 的标准/规范之一。

RabbitMQ是基于AMQP协议来实现的,AMQP的主要特征是面向消息、队列、路由(包括点对点和发布/订阅)、可靠性、安全。AMQP协议应用在对数据一致性、稳定性和可靠性要求很高的场景,对性能和吞吐量的要求还在其次。 

RocketMQ是阿里开源的消息中间件,它是纯Java开发,具有高吞吐量、高可用性、适合大规模分布式系统应用的特点。

 

参考资料:

https://blog.csdn.net/leexide/article/details/80035462?utm_source=copy

这篇关于Web开发来一发(八)消息中间件MQ的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/654987

相关文章

基于Python开发Windows屏幕控制工具

《基于Python开发Windows屏幕控制工具》在数字化办公时代,屏幕管理已成为提升工作效率和保护眼睛健康的重要环节,本文将分享一个基于Python和PySide6开发的Windows屏幕控制工具,... 目录概述功能亮点界面展示实现步骤详解1. 环境准备2. 亮度控制模块3. 息屏功能实现4. 息屏时间

Python实例题之pygame开发打飞机游戏实例代码

《Python实例题之pygame开发打飞机游戏实例代码》对于python的学习者,能够写出一个飞机大战的程序代码,是不是感觉到非常的开心,:本文主要介绍Python实例题之pygame开发打飞机... 目录题目pygame-aircraft-game使用 Pygame 开发的打飞机游戏脚本代码解释初始化部

使用Python开发一个现代化屏幕取色器

《使用Python开发一个现代化屏幕取色器》在UI设计、网页开发等场景中,颜色拾取是高频需求,:本文主要介绍如何使用Python开发一个现代化屏幕取色器,有需要的小伙伴可以参考一下... 目录一、项目概述二、核心功能解析2.1 实时颜色追踪2.2 智能颜色显示三、效果展示四、实现步骤详解4.1 环境配置4.

Python使用smtplib库开发一个邮件自动发送工具

《Python使用smtplib库开发一个邮件自动发送工具》在现代软件开发中,自动化邮件发送是一个非常实用的功能,无论是系统通知、营销邮件、还是日常工作报告,Python的smtplib库都能帮助我们... 目录代码实现与知识点解析1. 导入必要的库2. 配置邮件服务器参数3. 创建邮件发送类4. 实现邮件

基于Python开发一个有趣的工作时长计算器

《基于Python开发一个有趣的工作时长计算器》随着远程办公和弹性工作制的兴起,个人及团队对于工作时长的准确统计需求日益增长,本文将使用Python和PyQt5打造一个工作时长计算器,感兴趣的小伙伴可... 目录概述功能介绍界面展示php软件使用步骤说明代码详解1.窗口初始化与布局2.工作时长计算核心逻辑3

python web 开发之Flask中间件与请求处理钩子的最佳实践

《pythonweb开发之Flask中间件与请求处理钩子的最佳实践》Flask作为轻量级Web框架,提供了灵活的请求处理机制,中间件和请求钩子允许开发者在请求处理的不同阶段插入自定义逻辑,实现诸如... 目录Flask中间件与请求处理钩子完全指南1. 引言2. 请求处理生命周期概述3. 请求钩子详解3.1

如何基于Python开发一个微信自动化工具

《如何基于Python开发一个微信自动化工具》在当今数字化办公场景中,自动化工具已成为提升工作效率的利器,本文将深入剖析一个基于Python的微信自动化工具开发全过程,有需要的小伙伴可以了解下... 目录概述功能全景1. 核心功能模块2. 特色功能效果展示1. 主界面概览2. 定时任务配置3. 操作日志演示

SpringBoot项目Web拦截器使用的多种方式

《SpringBoot项目Web拦截器使用的多种方式》在SpringBoot应用中,Web拦截器(Interceptor)是一种用于在请求处理的不同阶段执行自定义逻辑的机制,下面给大家介绍Sprin... 目录一、实现 HandlerInterceptor 接口1、创建HandlerInterceptor实

JavaScript实战:智能密码生成器开发指南

本文通过JavaScript实战开发智能密码生成器,详解如何运用crypto.getRandomValues实现加密级随机密码生成,包含多字符组合、安全强度可视化、易混淆字符排除等企业级功能。学习密码强度检测算法与信息熵计算原理,获取可直接嵌入项目的完整代码,提升Web应用的安全开发能力 目录

SpringCloud整合MQ实现消息总线服务方式

《SpringCloud整合MQ实现消息总线服务方式》:本文主要介绍SpringCloud整合MQ实现消息总线服务方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐... 目录一、背景介绍二、方案实践三、升级版总结一、背景介绍每当修改配置文件内容,如果需要客户端也同步更新,