Netty的粘包/拆包问题的解决之道

2024-03-08 16:20

本文主要是介绍Netty的粘包/拆包问题的解决之道,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

问题提出

在使用Netty进行网络通信时,由于网络传输的特性,数据往往无法保持完整的发送或接收。可以把netty的socket通道看成是一段水管,水管里的水是没有分界线的。TCP作为底层传输协议,是不了解上层业务数据的意义。这就会导致数据在传输过程中被拆分成多个小片段,或者多个数据包被合并到一个大的数据包中。为了解决这个问题,Netty提供了一些方法来处理拆包和粘包的问题。

1.消息定长,每个消息都是固定长度,不足字节部分用空格补全。

netty提供了提供了FixedLengthFrameEncoder和FixedLengthFrameDecoder来实现。说实在的,这种解决方式实在简单粗暴,根本不会有产品项目采纳。

2.在包尾插入分割符合,例如回车换行符

netty提供了LineBasedFrameDecoder+StringDecoder组合来支持换行符分割。

其工作原理是LineBasedFrameDecoder先遍历ByteBuf的可读字节,若包含换行符,则以其作为结束位置,将区间的字节作为一个整体字符数组,StringDecoder再将捕获的字符数组转成一个字符串。

若需要采用其他分割符,netty也提供了DelimiterBasedFrameDecode+StringDecoder组合来支持。

3.在消息头增加长度来表示消息的总大小

送端在数据包的前面添加一个消息长度字段,接收端根据消息长度进行解析。Netty提供了LengthFieldPrependerLengthFieldBasedFrameDecoder来处理基于消息长度的粘包。

  ChannelPipeline pipeline = ch.pipeline();// 添加LengthFieldBasedFrameDecoder来解决粘包和拆包问题pipeline.addLast(new LengthFieldBasedFrameDecoder(1024, 0, 4, 0, 4));// 添加LengthFieldPrepender来处理粘包和拆包问题pipeline.addLast(new LengthFieldPrepender(4));

这个示例中的LengthFieldBasedFrameDecoder使用了以下参数:

  • frameMaxLengh:解码后的最大帧长度,超过这个长度的帧将被丢弃。
  • lengthFieldOffset:长度字段的偏移量,指的是长度字段的起始位置相对于整个数据包的起始位置的偏移量。
  • lengthFieldLength:长度字段的长度,指的是长度字段的字节数。
  • lengthAdjustment:长度字段的调整值,指的是长度字段值需要增加或减少的量。
  • initialBytesToStrip:从解码后的帧中去掉的字节数。

这几个参数比较复杂,源码给了非常详细的例子进行说明,有兴趣的可以通过源码进行阅读。

 4,自定义消息头和消息体

第三种方法虽然使用简单,但无法满足一些需求。对于一个项目来说,可能消息的种类非常多,不能单纯使用消息长度来定义,需要额外一个消息id来表示。那既然项目已定义了自己的私有协议栈来解决粘包问题了,那就不会继续使用LengthFieldBasedFrameDecoder。例如jforgame就使用了完全私有的协议栈解析。

public class DefaultProtocolDecoder extends ByteToMessageDecoder {private int maxProtocolBytes = 4096;private Logger logger = LoggerFactory.getLogger(DefaultProtocolDecoder.class);private MessageFactory messageFactory;private MessageCodec messageCodec;/*** 消息元信息常量,为int类型的长度,表示消息的id*/private final int MESSAGE_META_SIZE = 4;public DefaultProtocolDecoder(MessageFactory messageFactory, MessageCodec messageCodec) {this.messageFactory = messageFactory;this.messageCodec = messageCodec;}@Overrideprotected void decode(ChannelHandlerContext ctx, ByteBuf in, List<Object> out) throws Exception {if (in.readableBytes() < 4) {return;}in.markReaderIndex();// ----------------protocol pattern-------------------------// packetLength | cmd | body// int int byte[]int length = in.readInt();if (length > maxProtocolBytes) {logger.error("单包长度[{}]过大,断开链接", length);ctx.close();return;}if (in.readableBytes() < length) {in.resetReaderIndex();return;}final int metaSize = MESSAGE_META_SIZE;int cmd = in.readInt();byte[] body = new byte[length - metaSize];in.readBytes(body);Class<?> msgClazz = messageFactory.getMessage(cmd);Object msg = messageCodec.decode(msgClazz, body);out.add(msg);}}

在本例中私有协议定义中定义了包头(包长度+消息id)和包体。如果buff小于包长度,则继续等待数据到达。通过消息id来定义一个实际的消息类型,再通过消息编解码来读取。可以继续优化的是,因为一般客户端的请求消息都比较小,发生粘包的可能性很大。在这里,我们还可以增加一个for循环来解析更多的请求包。

这里注意两个概念,私有协议指的是包头+包体,而消息编解码指的是包体反序列化成一个真正的业务对象。

这篇关于Netty的粘包/拆包问题的解决之道的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!


原文地址:
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.chinasem.cn/article/787674

相关文章

怎样通过分析GC日志来定位Java进程的内存问题

《怎样通过分析GC日志来定位Java进程的内存问题》:本文主要介绍怎样通过分析GC日志来定位Java进程的内存问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录一、GC 日志基础配置1. 启用详细 GC 日志2. 不同收集器的日志格式二、关键指标与分析维度1.

Java 线程安全与 volatile与单例模式问题及解决方案

《Java线程安全与volatile与单例模式问题及解决方案》文章主要讲解线程安全问题的五个成因(调度随机、变量修改、非原子操作、内存可见性、指令重排序)及解决方案,强调使用volatile关键字... 目录什么是线程安全线程安全问题的产生与解决方案线程的调度是随机的多个线程对同一个变量进行修改线程的修改操

Redis出现中文乱码的问题及解决

《Redis出现中文乱码的问题及解决》:本文主要介绍Redis出现中文乱码的问题及解决,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录1. 问题的产生2China编程. 问题的解决redihttp://www.chinasem.cns数据进制问题的解决中文乱码问题解决总结

全面解析MySQL索引长度限制问题与解决方案

《全面解析MySQL索引长度限制问题与解决方案》MySQL对索引长度设限是为了保持高效的数据检索性能,这个限制不是MySQL的缺陷,而是数据库设计中的权衡结果,下面我们就来看看如何解决这一问题吧... 目录引言:为什么会有索引键长度问题?一、问题根源深度解析mysql索引长度限制原理实际场景示例二、五大解决

Springboot如何正确使用AOP问题

《Springboot如何正确使用AOP问题》:本文主要介绍Springboot如何正确使用AOP问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录​一、AOP概念二、切点表达式​execution表达式案例三、AOP通知四、springboot中使用AOP导出

Python中Tensorflow无法调用GPU问题的解决方法

《Python中Tensorflow无法调用GPU问题的解决方法》文章详解如何解决TensorFlow在Windows无法识别GPU的问题,需降级至2.10版本,安装匹配CUDA11.2和cuDNN... 当用以下代码查看GPU数量时,gpuspython返回的是一个空列表,说明tensorflow没有找到

解决未解析的依赖项:‘net.sf.json-lib:json-lib:jar:2.4‘问题

《解决未解析的依赖项:‘net.sf.json-lib:json-lib:jar:2.4‘问题》:本文主要介绍解决未解析的依赖项:‘net.sf.json-lib:json-lib:jar:2.4... 目录未解析的依赖项:‘net.sf.json-lib:json-lib:jar:2.4‘打开pom.XM

IDEA Maven提示:未解析的依赖项的问题及解决

《IDEAMaven提示:未解析的依赖项的问题及解决》:本文主要介绍IDEAMaven提示:未解析的依赖项的问题及解决,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝... 目录IDEA Maven提示:未解析的依编程赖项例如总结IDEA Maven提示:未解析的依赖项例如

Redis分片集群、数据读写规则问题小结

《Redis分片集群、数据读写规则问题小结》本文介绍了Redis分片集群的原理,通过数据分片和哈希槽机制解决单机内存限制与写瓶颈问题,实现分布式存储和高并发处理,但存在通信开销大、维护复杂及对事务支持... 目录一、分片集群解android决的问题二、分片集群图解 分片集群特征如何解决的上述问题?(与哨兵模

SpringBoot+Redis防止接口重复提交问题

《SpringBoot+Redis防止接口重复提交问题》:本文主要介绍SpringBoot+Redis防止接口重复提交问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不... 目录前言实现思路代码示例测试总结前言在项目的使用使用过程中,经常会出现某些操作在短时间内频繁提交。例