Kafka3.0 副本

2024-02-06 05:30
文章标签 副本 kafka3.0

本文主要是介绍Kafka3.0 副本,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

文章目录

  • 副本基本信息
  • Leader 选举流程
  • Leader 和 Follower 故障处理细节
    • Follower 故障处理细节
    • Leader 故障处理细节
  • 分区副本分配

副本基本信息

1)Kafka 副本作用:提高数据可靠性。
2)Kafka 默认副本 1 个,生产环境一般配置为 2 个,保证数据可靠性;太多副本会增加磁盘存储空间,增加网络上数据传输,降低效率。
3)Kafka 中副本分为:Leader 和 Follower。Kafka 生产者只会把数据发往 Leader,然后 Follower 找 Leader 进行同步数据。
4)Kafka 分区中的所有副本统称为 AR(Assigned Repllicas)。

AR = ISR + OSR,ISR,表示和 Leader 保持同步的 Follower 集合。如果 Follower 长时间未向 Leader 发送通信请求或同步数据,则该 Follower 将被踢出 ISR。该时间阈值由 replica.lag.time.max.ms参数设定,默认 30s。Leader 发生故障之后,就会从 ISR 中选举新的 Leader。OSR,表示 Follower 与 Leader 副本同步时,延迟过多的副本。

Leader 选举流程

Kafka 集群中有一个 broker 的 Controller 会被选举为 Controller Leader,负责管理集群broker 的上下线,所有 topic 的分区副本分配和 Leader 选举等工作。

Controller 的信息同步工作是依赖于 Zookeeper 的。

在这里插入图片描述

Leader 和 Follower 故障处理细节

Follower 故障处理细节

在这里插入图片描述

Leader 故障处理细节

在这里插入图片描述

分区副本分配

如果 kafka 服务器只有 4 个节点,那么设置 kafka 的分区数大于服务器台数,在 kafka底层如何分配存储副本呢?

假如创建 16 分区,3 个副本

在这里插入图片描述
分区和副本分布的话,kafka会有自带的负载均衡功能,帮助我们更加平整均匀的分布。

这篇关于Kafka3.0 副本的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/683256

相关文章

Kafka常见问题学习路径源码阅读小结 | 写在Kafka3.0发布之际

严格来说,这篇文章也不是今天写的。是之前断断续续写在了几篇文章中。 2021年9月21日,随着Kafka3.0的发布,Kafka在「分布式流处理平台」这个目标上的努力进一步得到加强!Kafka不满足于「消息引擎」的定位,正式基于这样的定位,Kafka 社区于 0.10.0.0 版本正式推出了流处理组件 Kafka Streams,也正是从这个版本开始,Kafka 正式"变身"为分布式的流处理平台

副本技能-Amazon开放平台MWS的API接入

Amazon官方工具各类地址 亚马逊订单提供接口调试地址: https://mws.amazonservices.com/scratchpad/index.html 亚马逊MWS 端点及MarketplaceId查询地址: http://docs.developer.amazonservices.com/zh_CN/dev_guide/DG_Endpoints.html 亚马逊MWS官方开发者文

副本技能-maven打包仓库常用配置与上传指定制品仓库

1.找到本地Maven的配置文件settings.xm 2.配置setting文件中的服务器远程仓库地址 <servers><!-- 正式包仓库 --><server><id>xt-releases</id><username>UTmQqF</username><password>******</password></server><!-- 开发中的镜像包仓库 --><server><id>x

副本技能-亚马逊SP-API的依赖SDK包生产

1.环境配置 需求:Java环境,Maven环境,均需配置环境变量(可自行百度)! 2.下载api的接口模块代码 selling-partner-api-models项目GitHub库 3.下载 Swagger 代码生成器 Swagger代码生成器下载地址 自己找个目放着就好 4.查找SDK的配置JSON文件 SDK的接口配置JSON路径:selling-partner-api-mo

副本技能-使用RabbitMQ做即时消息通讯,使用STOMP协议

1.消息通讯的基础环境 技术使用: 后端使用Spring Websocket通讯,前端使用SocketJS,非长连接,有心跳检测信息交互使用RabbitMQ的插件Stomp 给RabbitMQ安装Stomp的插件 安装前: 安装后: 安装步骤(我的RabbitMQ是使用的Docker) 1.进入Docker容器RabbitMQ的后台(docker exec -it 容器ID /bin

副本技能-Ebay系统对接获取Token【多店铺版本】

流程逻辑: 1.使用ebay配置获取多店铺的授权连接 2.在页面访问多店铺的授权链接 3.确定授权链接,后端获取店铺访问的token 1.调用自身的服务获取店铺授权链接 https://[访问地址]/ebay/[应用ID]/getEbayShopAuthUrl/[店铺名称] 2.页面授权多店铺链接 相同的链接,后面店铺名称修改不同,进入页面授权即可 查看返回结果:自己写的代码,格式可以

副本技能-eBay店铺指标调用评论限制

参考资料 eBay API 支持大量应用程序,但是eBay 限制了 API 调用的使用。总调用数限制和调用速率取决于不同的 API。 默认的 API 速率限制是为个人和小型企业设计的。如果您的数量增加,您可以在完成eBay的兼容应用程序检查流程后获得更多的调用次数 。 API 调用使用报告,可以获知当前的每日限额和每日调用量。对于限制, 一天 从太平洋时间 00:00:00(午夜)【北京时间:1

Vue 3 Composition API 中如何正确添加表单项副本到数组

在 Vue 3 中,使用 Composition API 时,如果你尝试直接通过引用(如 formState)来填充 formList 数组,你会遇到一个问题:所有通过 addForm 方法添加的表单项实际上都是对 formState 的同一个引用。这意呀着,如果你修改了任何一个表单项,所有其他通过 formState 添加的表单项也会同时被修改,因为它们实际上都是指向同一个对

MongoDB-副本集-Replica Sets

(一) 副本集-Replica Sets 1. 简介 MongoDB中的副本集(Replica Set)是一组维护相同数据集的mongod服务。 副本集可提供冗余和高 可用性,是所有生产部署的基础。也可以说,副本集类似于有自动故障恢复功能的主从集群。通俗的讲就是用多台机器进行同一数据的异步同步,从而使多台机器拥有同一数据的多个副本,并且当主库当掉时在不需要用户干预的情况下自动切换其他备份服务

vue学习七(v-for数组和对象、v-if、监测索引值、监测对象属性增删、副本、组件v-for)

文章目录 用 v-for 将数组对应为一组元素一个对象的 v-forkey复用数组利用索引设置项值对象属性的添加或删除显示过滤/排序结果v-for on a templatev-for with v-if组件v-for 用 v-for 将数组对应为一组元素 在 v-for 块中,我们拥有对父作用域属性的完全访问权限。v-for 还支持一个可选的第二个参数为当前项的索引