webserver使用webbench工具连续压测失败

2024-08-27 21:52

本文主要是介绍webserver使用webbench工具连续压测失败,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

参考资料:一次压力测试Bug排查-epoll使用避坑指南 - 两猿社 - 博客园 (cnblogs.com)

Bug复现

使用Webbench对服务器进行压力测试,创建1000个客户端,并发访问服务器10s。

结果显示仅有少数几个请求被成功处理,0个请求处理失败,性能很差,服务器也没有返回错误。此时,从浏览器端访问服务器,发现该请求也不能被处理和响应,必须将服务器重启后,浏览器端才能访问正常。

原因

当代码执行完listen()函数后,但未执行accept()函数前,Linux内核会为任何一个监听套接口维护两个队列,每个队列都是存储文件描述符fd:

  • 未完成连接的队列:该队列的文件描述符,正在等待TCP三次握手完成,还处在 SYN_RCVD 状态
  • 已完成连接的队列:该队列的文件描述符,已经完成TCP三次握手,处在 ESTABLISHED 状态

当代码执行accept()函数时,正常情况下,内核从处于 ESTABLISHED 状态的已完成连接队列的头部,取出一个文件描述符进行处理。

但是也会出现异常情况,比如:

  • 如果这个已完成连接的队列为空,accept函数就会阻塞,直到队列中有新的文件描述符加入。
  • 如果,服务器不能及时调用 accept取走队列中已完成的连接,当已完成连接队列满掉后,未完成连接的队列中剩下的连接都得不到处理,同时会禁止新的连接。

从上面的分析中可以看出,accept如果没有将已完成连接队列中的连接取完,未完成连接队列中剩下的连接都得不到处理,也不能接收新请求,这个特性与压力测试的Bug十分类似

由于我的代码中使用的是epoll+ET模式,当epoll_wait检测到epoll文件描述符有事件发生,只会通知一次,随后内核就不会发送通知了,如果一直不对这个fd操作,内核就不会发送更多的通知

因此应用程序必须立即处理该事件,而且必须要一次性将数据读取完

而在错误的代码中,我使用的是

    if(sockfd == listenfd){struct sockaddr_in client_address;socklen_t client_addresslen = sizeof(client_address);int connfd = accept(listenfd, (struct sockaddr*)&client_address, &client_addresslen);......}

如果我们使用压测工具测试时,会建立多个客户端连接,epoll_wait()函数会返回 1,表示有一个fd需要处理(实际上就是listenfd)

同时,已完成队列会在这一瞬间爆满,当执行int connfd = accept(listenfd, (struct sockaddr*)&client_address, &client_addresslen),只会取出一个已完成的连接(剩下还有很多个没取),但内核却不会发送通知处理 listenfd(因为内核认为你已经处理完了listenfd),到下一次的epoll_wait()时,已完成队列爆满,不再接收新的连接,listenfd没有新的通知消息,状态不变,会卡在epoll_wait()

因此,在此之后,由于已完成连接队列爆满而得不到处理,再从浏览器端访问服务器,会发现无法连接


综上所述,我们需要一次性读完已完成连接队列中的连接

解决方法

修改前

for(int i = 0; i < number; i++)
{int sockfd = events[i].data.fd;// 有新的客户端连接if(sockfd == listenfd){struct sockaddr_in client_address;socklen_t client_addresslen = sizeof(client_address);int connfd = accept(listenfd, (struct sockaddr*)&client_address, &client_addresslen);if(connfd < 0){// printf("errno is %d\n", errno);LOG_ERROR("%s:errno is:%d", "accept error", errno);continue;}......}......
}

修改后

for(int i = 0; i < number; i++)
{int sockfd = events[i].data.fd;struct sockaddr_in client_address;socklen_t client_addresslen = sizeof(client_address);int connfd;// 有新的客户端连接if(sockfd == listenfd){while ((connfd = accept(listenfd, (struct sockaddr*)&client_address, &client_addresslen)) > 0){if(connfd < 0){// printf("errno is %d\n", errno);continue;}......}......}......
}

这篇关于webserver使用webbench工具连续压测失败的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!


原文地址:
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.chinasem.cn/article/1112880

相关文章

Swagger2与Springdoc集成与使用详解

《Swagger2与Springdoc集成与使用详解》:本文主要介绍Swagger2与Springdoc集成与使用方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐... 目录1. 依赖配置2. 基础配置2.1 启用 Springdoc2.2 自定义 OpenAPI 信息3.

Golang interface{}的具体使用

《Golanginterface{}的具体使用》interface{}是Go中可以表示任意类型的空接口,本文主要介绍了Golanginterface{}的具体使用,具有一定的参考价值,感兴趣的可以了... 目录一、什么是 interface{}?定义形China编程式:二、interface{} 有什么特别的?✅

使用Python实现调用API获取图片存储到本地的方法

《使用Python实现调用API获取图片存储到本地的方法》开发一个自动化工具,用于从JSON数据源中提取图像ID,通过调用指定API获取未经压缩的原始图像文件,并确保下载结果与Postman等工具直接... 目录使用python实现调用API获取图片存储到本地1、项目概述2、核心功能3、环境准备4、代码实现

windows和Linux安装Jmeter与简单使用方式

《windows和Linux安装Jmeter与简单使用方式》:本文主要介绍windows和Linux安装Jmeter与简单使用方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地... 目录Windows和linux安装Jmeter与简单使用一、下载安装包二、JDK安装1.windows设

Spring 缓存在项目中的使用详解

《Spring缓存在项目中的使用详解》Spring缓存机制,Cache接口为缓存的组件规范定义,包扩缓存的各种操作(添加缓存、删除缓存、修改缓存等),本文给大家介绍Spring缓存在项目中的使用... 目录1.Spring 缓存机制介绍2.Spring 缓存用到的概念Ⅰ.两个接口Ⅱ.三个注解(方法层次)Ⅲ.

PyTorch中cdist和sum函数使用示例详解

《PyTorch中cdist和sum函数使用示例详解》torch.cdist是PyTorch中用于计算**两个张量之间的成对距离(pairwisedistance)**的函数,常用于点云处理、图神经网... 目录基本语法输出示例1. 简单的 2D 欧几里得距离2. 批量形式(3D Tensor)3. 使用不

C#使用MQTTnet实现服务端与客户端的通讯的示例

《C#使用MQTTnet实现服务端与客户端的通讯的示例》本文主要介绍了C#使用MQTTnet实现服务端与客户端的通讯的示例,包括协议特性、连接管理、QoS机制和安全策略,具有一定的参考价值,感兴趣的可... 目录一、MQTT 协议简介二、MQTT 协议核心特性三、MQTTNET 库的核心功能四、服务端(BR

使用@Cacheable注解Redis时Redis宕机或其他原因连不上继续调用原方法的解决方案

《使用@Cacheable注解Redis时Redis宕机或其他原因连不上继续调用原方法的解决方案》在SpringBoot应用中,我们经常使用​​@Cacheable​​注解来缓存数据,以提高应用的性能... 目录@Cacheable注解Redis时,Redis宕机或其他原因连不上,继续调用原方法的解决方案1

java中XML的使用全过程

《java中XML的使用全过程》:本文主要介绍java中XML的使用全过程,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录什么是XML特点XML作用XML的编写语法基本语法特殊字符编写约束XML的书写格式DTD文档schema文档解析XML的方法​​DOM解析XM

使用Java实现Navicat密码的加密与解密的代码解析

《使用Java实现Navicat密码的加密与解密的代码解析》:本文主要介绍使用Java实现Navicat密码的加密与解密,通过本文,我们了解了如何利用Java语言实现对Navicat保存的数据库密... 目录一、背景介绍二、环境准备三、代码解析四、核心代码展示五、总结在日常开发过程中,我们有时需要处理各种软