linux 的各项安装以及kafka的使用

2024-04-28 02:58
文章标签 linux 安装 使用 kafka 各项

本文主要是介绍linux 的各项安装以及kafka的使用,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

为了把 kafka代码跑起来, 搭了一天的环境。

具体如下: 在 windows系统中,增加虚拟机CentOS, 然后在CentOS中安装jdk,maven,zk,idea,kafka等必须的软件。

CentOS与本地windows的交互 使用xshell软件 加上 rz,sz 命令。

安装linux jdk:
https://www.cnblogs.com/shihaiming/p/5809553.html

安装linux zk:
https://www.cnblogs.com/jimmy-muyuan/p/8748006.html

安装linux maven:
https://www.cnblogs.com/freeweb/p/5241013.html

安装linux idea:
https://blog.csdn.net/YF_Li123/article/details/79951048

安装linux kafka:
https://www.cnblogs.com/unqiang/p/5166770.html
 

代码见: git@github.com:tuyf/kafka.git

代码中 主要包含以下几个样例:

 

第一个样例: Java访问Kafka实例: ProducerSample 和 ConsumerSample 。 

ConsumerSample 能正常跑起来,ProducerSample  在跑起来的时候,报了以下错误(未解决):

 

第二个样例: Spring 整合java, 最终的结果是 使用在 spring配置文件中 配置的

kafkaTemplate 实现类 来实现消息的发送, 见类SpringProducer 和 spring-kafka.xml

成功跑起来的。

第三个样例:基于Kafka 用户行为的数据采集

在package report中 的代码 。 该样例有自己的页面, 使用tomcat之类的容器跑起来之后,点击 会触发后台的采集动作。

 

第四个样例:日志收集,针对分布式环境下,各台机器上 都有自己的日志; 需要统一收集起来,进行精确的查询。

 

第五个样例:基于kafka的流量削峰:

是一个电商的秒杀场景: 使用tomcat把 样例跑起来之后,进入秒杀页面,发现中文乱码。

点击立即秒杀,后台报错, 一看是 redis没有配置的问题。

 

kafka的实践建议:

分区: 一般建议 partition的数量 要大于或等于消费者的数量, 这样可以实现最大并发。

复制:kafka使用了zk实现了去中心化的功能,复制 保证了kafka在部分节点不可用时,依然保持整体的可用性。

复制是针对分区的,一个分区有多个 副本,副本被保存在Broker上。 

副本有两种类型: leader副本(每个分区都会有)和follower副本。

为了保证一致性,所有生产者和消费者的请求 都会经过leader, 二follower不处理客户端的请求(职责是在leader宕机时,替代leader)。

 

消息发送:

1 立即发送

2 同步发送

3 异步发送

 

消息发送确认:

1 不等确认

2 只等leader确认

3 等leader和follower确认

 

消息重发(有次数限制)

 

批次发送

 

 

 

 

 

 

 

 

 

 

 

这篇关于linux 的各项安装以及kafka的使用的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/942175

相关文章

Linux线程之线程的创建、属性、回收、退出、取消方式

《Linux线程之线程的创建、属性、回收、退出、取消方式》文章总结了线程管理核心知识:线程号唯一、创建方式、属性设置(如分离状态与栈大小)、回收机制(join/detach)、退出方法(返回/pthr... 目录1. 线程号2. 线程的创建3. 线程属性4. 线程的回收5. 线程的退出6. 线程的取消7.

SQL server数据库如何下载和安装

《SQLserver数据库如何下载和安装》本文指导如何下载安装SQLServer2022评估版及SSMS工具,涵盖安装配置、连接字符串设置、C#连接数据库方法和安全注意事项,如混合验证、参数化查... 目录第一步:打开官网下载对应文件第二步:程序安装配置第三部:安装工具SQL Server Manageme

Linux下进程的CPU配置与线程绑定过程

《Linux下进程的CPU配置与线程绑定过程》本文介绍Linux系统中基于进程和线程的CPU配置方法,通过taskset命令和pthread库调整亲和力,将进程/线程绑定到特定CPU核心以优化资源分配... 目录1 基于进程的CPU配置1.1 对CPU亲和力的配置1.2 绑定进程到指定CPU核上运行2 基于

使用Python删除Excel中的行列和单元格示例详解

《使用Python删除Excel中的行列和单元格示例详解》在处理Excel数据时,删除不需要的行、列或单元格是一项常见且必要的操作,本文将使用Python脚本实现对Excel表格的高效自动化处理,感兴... 目录开发环境准备使用 python 删除 Excphpel 表格中的行删除特定行删除空白行删除含指定

golang程序打包成脚本部署到Linux系统方式

《golang程序打包成脚本部署到Linux系统方式》Golang程序通过本地编译(设置GOOS为linux生成无后缀二进制文件),上传至Linux服务器后赋权执行,使用nohup命令实现后台运行,完... 目录本地编译golang程序上传Golang二进制文件到linux服务器总结本地编译Golang程序

深入理解Go语言中二维切片的使用

《深入理解Go语言中二维切片的使用》本文深入讲解了Go语言中二维切片的概念与应用,用于表示矩阵、表格等二维数据结构,文中通过示例代码介绍的非常详细,需要的朋友们下面随着小编来一起学习学习吧... 目录引言二维切片的基本概念定义创建二维切片二维切片的操作访问元素修改元素遍历二维切片二维切片的动态调整追加行动态

Linux下删除乱码文件和目录的实现方式

《Linux下删除乱码文件和目录的实现方式》:本文主要介绍Linux下删除乱码文件和目录的实现方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录linux下删除乱码文件和目录方法1方法2总结Linux下删除乱码文件和目录方法1使用ls -i命令找到文件或目录

prometheus如何使用pushgateway监控网路丢包

《prometheus如何使用pushgateway监控网路丢包》:本文主要介绍prometheus如何使用pushgateway监控网路丢包问题,具有很好的参考价值,希望对大家有所帮助,如有错误... 目录监控网路丢包脚本数据图表总结监控网路丢包脚本[root@gtcq-gt-monitor-prome

Python通用唯一标识符模块uuid使用案例详解

《Python通用唯一标识符模块uuid使用案例详解》Pythonuuid模块用于生成128位全局唯一标识符,支持UUID1-5版本,适用于分布式系统、数据库主键等场景,需注意隐私、碰撞概率及存储优... 目录简介核心功能1. UUID版本2. UUID属性3. 命名空间使用场景1. 生成唯一标识符2. 数

Linux在线解压jar包的实现方式

《Linux在线解压jar包的实现方式》:本文主要介绍Linux在线解压jar包的实现方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录linux在线解压jar包解压 jar包的步骤总结Linux在线解压jar包在 Centos 中解压 jar 包可以使用 u