Java程序员从笨鸟到菜鸟(四十二) 高并发网络模型

2024-08-28 20:08

本文主要是介绍Java程序员从笨鸟到菜鸟(四十二) 高并发网络模型,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

一、常用的处理并发网络编程方案

1. IO 多路复用模型

  • 思路:单进程调用 select() 函数来处理多个连接请求
  • 优点:单进程可同时处理多个网络连接请求
  • 缺点:最大并发数为 1024 个,当并发数较大时,处理性能很低

2. 多进程模型

  • 思路:当有连接请求时,主进程 fork 产生一个子进程,让子进程与客户端连接进行数据通信,当客户端主动关闭连接时,子进程结束运行
  • 优点:模式简单,易于理解,连接请求小时,效率较高
  • 缺点:当连接请求过多时,系统资源容易被耗尽

3. 多线程模型

  • 思路:首先启动多个工作线程,主线程负责接收连接请求,工作线程负责与客户端进行通信,当连接请求来是,accept 线程将sokid 放入一个数组中,工作线程中的空闲线程从数组中取走一个 sokid ,对应的工作线程再与客户端连接进行数据通信
  • 优点:对方案 2 的缺点进行优化
  • 缺点:不支持并发量大的请求和量稍大的长连接请求

以上三种方案均不能满足高并发、高性能的服务器处理请求。

二、实现高并发设计方案

采用 2 层设计架构,第一层由接收线程组成,负责接收客户端数据;第二层由工作线程组成,负责对接收的数据进行相应处理,为减少数据的复制和 IO 操作,将收到的客户端数据使用队列进行存储,工作线程接收到处理指令之后,从指令中提取相应的参数,便可直到哪个线程的队列中获取数据
框架1
这里写图片描述

优点

  1. 有效避免线程之间出现锁竞争的情况,每接收到一个线程对应一个接收队列,每个接收线程将收到的数据只放在自己对应的队列中
  2. 在数据量不是特别大的情况下,此框架能够满足处理请求

缺点

  1. 在连接数量少,数据量比较大时,将会造成锁冲突严重,致使性能下降

框架 2
这里写图片描述

优点

  1. 有效避免工作线程之间的锁竞争,每个工作线程对应一个接收队列,灭个接收线程将接收到的数据放在自己对应的队列中
  2. 工作线程数 >= 2 * 接收线程时,能够有效减少接收线程之间的锁竞争情况

如何提高高并发量

并发量是指系统可接受的 TCP 连接请求数,高并发只是一个相对概念

IO 多路复用:一个 select 函数可最多可管理 FD_SETSIZE(一般为 1024)个socket 套接字,而如果要求并发量达到 100k ,这显然大大超过了 1 个select 的管理能力,解决方案:使用大约 100 个 select 才能有效管理 100k 并发,要实现对这 100 个 select 进行有效管理,使用多线程,即每个线程调用1个 select,而每个 select 可以管理 1024 个并发,但是线程越多,耗费的资源越多,操作系统的调度开销较大,这样会导致系统的性能越低

提高处理性能

Recv 流程
提高 Recv 线程接收来自客户端的数据的性能,处理过程需要用到的技术:IO 多路复用技术、非阻塞 IO 技术、内存池技术、加锁技术、事件触发机制、负载均衡策略、设计模式等

Recv 线程的大体处理流程:
这里写图片描述

Work 流程
在无处理消息到来之前,一直处于阻塞状态,当有 Recv 线程的处理通知时,则接收消息内容,对消息进行分析,再根据消息的内容到指定的接收队列中取数据,再对数据进行相应的处理
这里写图片描述

链路分发
Recv 线程是如何分配和获取客户端通信的 SOCKET ,当一个线程通过 TCP 方式绑定指定端口后,其它线程再次绑定该端口,必将返回端口被占用,而如果让一个 Listen 套接字同时加入多个 Recv 线程的 Select 的可读集合进行监听,当有一个新的客户端连接请求到来时,所有的 Recv 线程会被惊醒,这显然应该避免

需要使用的技术

  1. IO 多路复用
  2. 非阻塞 IO 技术
  3. 事件驱动机制
  4. 线程池技术
  5. 负载均衡策略
  6. 内存池技术
  7. 缓存技术
  8. 锁技术
  9. 设计模式
  10. 高效算法

参考文章传送门:https://blog.csdn.net/quincyfang/article/details/44654351

三、可靠的软件开发

网页编程安全
在并发量大的时候,防火墙会关闭部分网络攻击检测功能,在网页编程时做一些必要的防攻击策略

  1. 防止 SQL 注入式攻击:对查询的 SQL 字符串进行合法性检查,防止被 SQL 注入攻击后整个数据库被下载
  2. 防 止人工 F5 刷新式攻击:在主页面、查询页面的客户端代码禁止 F5 按键防止客户端恶意刷新
  3. 防止人工频繁打开页面刷新式攻击:设置cookie,判断客户端打开页面的时间间隔,低于 2 秒的认为是人工频繁打开页面刷新式攻击,程序控制暂停数秒后,客户端才能跳到查询首页
  4. 防止程序自动刷新式攻击:检测 HTTP_REFERER 变量,减少可能性
  5. 隐藏查询嗲吗页面的地址:设置 web 服务器,隐藏查询代码页面的地址,有效防止各类程序自动刷新式攻击
  6. 图片验证:采用图片验证码

后端采用 epoll + 线程池来提高并发处理能力

epoll 是 linux 内核为处理大批量文件描述符而做了改进的poll,是 linux 下多路复用 IO 接口的增强版本,能显著提高程序在大量并发中只有少量活跃的情况下的系统 CPU 利用率

这篇关于Java程序员从笨鸟到菜鸟(四十二) 高并发网络模型的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1115759

相关文章

SpringSecurity显示用户账号已被锁定的原因及解决方案

《SpringSecurity显示用户账号已被锁定的原因及解决方案》SpringSecurity中用户账号被锁定问题源于UserDetails接口方法返回值错误,解决方案是修正isAccountNon... 目录SpringSecurity显示用户账号已被锁定的解决方案1.问题出现前的工作2.问题出现原因各

Java继承映射的三种使用方法示例

《Java继承映射的三种使用方法示例》继承在Java中扮演着重要的角色,它允许我们创建一个类(子类),该类继承另一个类(父类)的所有属性和方法,:本文主要介绍Java继承映射的三种使用方法示例,需... 目录前言一、单表继承(Single Table Inheritance)1-1、原理1-2、使用方法1-

Spring @Scheduled注解及工作原理

《Spring@Scheduled注解及工作原理》Spring的@Scheduled注解用于标记定时任务,无需额外库,需配置@EnableScheduling,设置fixedRate、fixedDe... 目录1.@Scheduled注解定义2.配置 @Scheduled2.1 开启定时任务支持2.2 创建

SpringBoot中使用Flux实现流式返回的方法小结

《SpringBoot中使用Flux实现流式返回的方法小结》文章介绍流式返回(StreamingResponse)在SpringBoot中通过Flux实现,优势包括提升用户体验、降低内存消耗、支持长连... 目录背景流式返回的核心概念与优势1. 提升用户体验2. 降低内存消耗3. 支持长连接与实时通信在Sp

Spring Boot 实现 IP 限流的原理、实践与利弊解析

《SpringBoot实现IP限流的原理、实践与利弊解析》在SpringBoot中实现IP限流是一种简单而有效的方式来保障系统的稳定性和可用性,本文给大家介绍SpringBoot实现IP限... 目录一、引言二、IP 限流原理2.1 令牌桶算法2.2 漏桶算法三、使用场景3.1 防止恶意攻击3.2 控制资源

Mac系统下卸载JAVA和JDK的步骤

《Mac系统下卸载JAVA和JDK的步骤》JDK是Java语言的软件开发工具包,它提供了开发和运行Java应用程序所需的工具、库和资源,:本文主要介绍Mac系统下卸载JAVA和JDK的相关资料,需... 目录1. 卸载系统自带的 Java 版本检查当前 Java 版本通过命令卸载系统 Java2. 卸载自定

springboot下载接口限速功能实现

《springboot下载接口限速功能实现》通过Redis统计并发数动态调整每个用户带宽,核心逻辑为每秒读取并发送限定数据量,防止单用户占用过多资源,确保整体下载均衡且高效,本文给大家介绍spring... 目录 一、整体目标 二、涉及的主要类/方法✅ 三、核心流程图解(简化) 四、关键代码详解1️⃣ 设置

Java Spring ApplicationEvent 代码示例解析

《JavaSpringApplicationEvent代码示例解析》本文解析了Spring事件机制,涵盖核心概念(发布-订阅/观察者模式)、代码实现(事件定义、发布、监听)及高级应用(异步处理、... 目录一、Spring 事件机制核心概念1. 事件驱动架构模型2. 核心组件二、代码示例解析1. 事件定义

SpringMVC高效获取JavaBean对象指南

《SpringMVC高效获取JavaBean对象指南》SpringMVC通过数据绑定自动将请求参数映射到JavaBean,支持表单、URL及JSON数据,需用@ModelAttribute、@Requ... 目录Spring MVC 获取 JavaBean 对象指南核心机制:数据绑定实现步骤1. 定义 Ja

javax.net.ssl.SSLHandshakeException:异常原因及解决方案

《javax.net.ssl.SSLHandshakeException:异常原因及解决方案》javax.net.ssl.SSLHandshakeException是一个SSL握手异常,通常在建立SS... 目录报错原因在程序中绕过服务器的安全验证注意点最后多说一句报错原因一般出现这种问题是因为目标服务器