Netty的粘包/拆包问题的解决之道

2024-03-08 16:20

本文主要是介绍Netty的粘包/拆包问题的解决之道,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

问题提出

在使用Netty进行网络通信时,由于网络传输的特性,数据往往无法保持完整的发送或接收。可以把netty的socket通道看成是一段水管,水管里的水是没有分界线的。TCP作为底层传输协议,是不了解上层业务数据的意义。这就会导致数据在传输过程中被拆分成多个小片段,或者多个数据包被合并到一个大的数据包中。为了解决这个问题,Netty提供了一些方法来处理拆包和粘包的问题。

1.消息定长,每个消息都是固定长度,不足字节部分用空格补全。

netty提供了提供了FixedLengthFrameEncoder和FixedLengthFrameDecoder来实现。说实在的,这种解决方式实在简单粗暴,根本不会有产品项目采纳。

2.在包尾插入分割符合,例如回车换行符

netty提供了LineBasedFrameDecoder+StringDecoder组合来支持换行符分割。

其工作原理是LineBasedFrameDecoder先遍历ByteBuf的可读字节,若包含换行符,则以其作为结束位置,将区间的字节作为一个整体字符数组,StringDecoder再将捕获的字符数组转成一个字符串。

若需要采用其他分割符,netty也提供了DelimiterBasedFrameDecode+StringDecoder组合来支持。

3.在消息头增加长度来表示消息的总大小

送端在数据包的前面添加一个消息长度字段,接收端根据消息长度进行解析。Netty提供了LengthFieldPrependerLengthFieldBasedFrameDecoder来处理基于消息长度的粘包。

  ChannelPipeline pipeline = ch.pipeline();// 添加LengthFieldBasedFrameDecoder来解决粘包和拆包问题pipeline.addLast(new LengthFieldBasedFrameDecoder(1024, 0, 4, 0, 4));// 添加LengthFieldPrepender来处理粘包和拆包问题pipeline.addLast(new LengthFieldPrepender(4));

这个示例中的LengthFieldBasedFrameDecoder使用了以下参数:

  • frameMaxLengh:解码后的最大帧长度,超过这个长度的帧将被丢弃。
  • lengthFieldOffset:长度字段的偏移量,指的是长度字段的起始位置相对于整个数据包的起始位置的偏移量。
  • lengthFieldLength:长度字段的长度,指的是长度字段的字节数。
  • lengthAdjustment:长度字段的调整值,指的是长度字段值需要增加或减少的量。
  • initialBytesToStrip:从解码后的帧中去掉的字节数。

这几个参数比较复杂,源码给了非常详细的例子进行说明,有兴趣的可以通过源码进行阅读。

 4,自定义消息头和消息体

第三种方法虽然使用简单,但无法满足一些需求。对于一个项目来说,可能消息的种类非常多,不能单纯使用消息长度来定义,需要额外一个消息id来表示。那既然项目已定义了自己的私有协议栈来解决粘包问题了,那就不会继续使用LengthFieldBasedFrameDecoder。例如jforgame就使用了完全私有的协议栈解析。

public class DefaultProtocolDecoder extends ByteToMessageDecoder {private int maxProtocolBytes = 4096;private Logger logger = LoggerFactory.getLogger(DefaultProtocolDecoder.class);private MessageFactory messageFactory;private MessageCodec messageCodec;/*** 消息元信息常量,为int类型的长度,表示消息的id*/private final int MESSAGE_META_SIZE = 4;public DefaultProtocolDecoder(MessageFactory messageFactory, MessageCodec messageCodec) {this.messageFactory = messageFactory;this.messageCodec = messageCodec;}@Overrideprotected void decode(ChannelHandlerContext ctx, ByteBuf in, List<Object> out) throws Exception {if (in.readableBytes() < 4) {return;}in.markReaderIndex();// ----------------protocol pattern-------------------------// packetLength | cmd | body// int int byte[]int length = in.readInt();if (length > maxProtocolBytes) {logger.error("单包长度[{}]过大,断开链接", length);ctx.close();return;}if (in.readableBytes() < length) {in.resetReaderIndex();return;}final int metaSize = MESSAGE_META_SIZE;int cmd = in.readInt();byte[] body = new byte[length - metaSize];in.readBytes(body);Class<?> msgClazz = messageFactory.getMessage(cmd);Object msg = messageCodec.decode(msgClazz, body);out.add(msg);}}

在本例中私有协议定义中定义了包头(包长度+消息id)和包体。如果buff小于包长度,则继续等待数据到达。通过消息id来定义一个实际的消息类型,再通过消息编解码来读取。可以继续优化的是,因为一般客户端的请求消息都比较小,发生粘包的可能性很大。在这里,我们还可以增加一个for循环来解析更多的请求包。

这里注意两个概念,私有协议指的是包头+包体,而消息编解码指的是包体反序列化成一个真正的业务对象。

这篇关于Netty的粘包/拆包问题的解决之道的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/787674

相关文章

线上Java OOM问题定位与解决方案超详细解析

《线上JavaOOM问题定位与解决方案超详细解析》OOM是JVM抛出的错误,表示内存分配失败,:本文主要介绍线上JavaOOM问题定位与解决方案的相关资料,文中通过代码介绍的非常详细,需要的朋... 目录一、OOM问题核心认知1.1 OOM定义与技术定位1.2 OOM常见类型及技术特征二、OOM问题定位工具

Vue3绑定props默认值问题

《Vue3绑定props默认值问题》使用Vue3的defineProps配合TypeScript的interface定义props类型,并通过withDefaults设置默认值,使组件能安全访问传入的... 目录前言步骤步骤1:使用 defineProps 定义 Props步骤2:设置默认值总结前言使用T

Web服务器-Nginx-高并发问题

《Web服务器-Nginx-高并发问题》Nginx通过事件驱动、I/O多路复用和异步非阻塞技术高效处理高并发,结合动静分离和限流策略,提升性能与稳定性... 目录前言一、架构1. 原生多进程架构2. 事件驱动模型3. IO多路复用4. 异步非阻塞 I/O5. Nginx高并发配置实战二、动静分离1. 职责2

解决升级JDK报错:module java.base does not“opens java.lang.reflect“to unnamed module问题

《解决升级JDK报错:modulejava.basedoesnot“opensjava.lang.reflect“tounnamedmodule问题》SpringBoot启动错误源于Jav... 目录问题描述原因分析解决方案总结问题描述启动sprintboot时报以下错误原因分析编程异js常是由Ja

MySQL 表空却 ibd 文件过大的问题及解决方法

《MySQL表空却ibd文件过大的问题及解决方法》本文给大家介绍MySQL表空却ibd文件过大的问题及解决方法,本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友参考... 目录一、问题背景:表空却 “吃满” 磁盘的怪事二、问题复现:一步步编程还原异常场景1. 准备测试源表与数据

解决Nginx启动报错Job for nginx.service failed because the control process exited with error code问题

《解决Nginx启动报错Jobfornginx.servicefailedbecausethecontrolprocessexitedwitherrorcode问题》Nginx启... 目录一、报错如下二、解决原因三、解决方式总结一、报错如下Job for nginx.service failed bec

SysMain服务可以关吗? 解决SysMain服务导致的高CPU使用率问题

《SysMain服务可以关吗?解决SysMain服务导致的高CPU使用率问题》SysMain服务是超级预读取,该服务会记录您打开应用程序的模式,并预先将它们加载到内存中以节省时间,但它可能占用大量... 在使用电脑的过程中,CPU使用率居高不下是许多用户都遇到过的问题,其中名为SysMain的服务往往是罪魁

MySQ中出现幻读问题的解决过程

《MySQ中出现幻读问题的解决过程》文章解析MySQLInnoDB通过MVCC与间隙锁机制在可重复读隔离级别下解决幻读,确保事务一致性,同时指出性能影响及乐观锁等替代方案,帮助开发者优化数据库应用... 目录一、幻读的准确定义与核心特征幻读 vs 不可重复读二、mysql隔离级别深度解析各隔离级别的实现差异

C++ vector越界问题的完整解决方案

《C++vector越界问题的完整解决方案》在C++开发中,std::vector作为最常用的动态数组容器,其便捷性与性能优势使其成为处理可变长度数据的首选,然而,数组越界访问始终是威胁程序稳定性的... 目录引言一、vector越界的底层原理与危害1.1 越界访问的本质原因1.2 越界访问的实际危害二、基

Python多线程应用中的卡死问题优化方案指南

《Python多线程应用中的卡死问题优化方案指南》在利用Python语言开发某查询软件时,遇到了点击搜索按钮后软件卡死的问题,本文将简单分析一下出现的原因以及对应的优化方案,希望对大家有所帮助... 目录问题描述优化方案1. 网络请求优化2. 多线程架构优化3. 全局异常处理4. 配置管理优化优化效果1.