工作中有没有遇到什么困难问题,最后是如何解决的?

2024-05-14 20:21

本文主要是介绍工作中有没有遇到什么困难问题,最后是如何解决的?,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

时间线梳理:

  1. prd上线后CPU占用100%,与stg和pre表现不同(两者CPU占用40%多,其实也有异常,只是没有引起注意,基本无流量的情况下不应该占用如此多的CPU);
  2. 短时间内运维无法定位,尝试分析代码,去掉bgWorker中不断读取计算队列的1024个协程,CPU恢复正常0.3%,定位到问题点;
  3. 调整读取Redis队列goroutine个数到4个,把没有读取到任务后的sleep时间从300ms调整成1s,CPU占用0.4%;
  4. 尝试增加goroutine到256,CPU占用6%;
  5. 去掉部分sleep 10ms代码,CPU占用10%,Redis请求少量增加;
  6. 调整goroutine数量到1024,去掉剩余sleep 10ms代码,增加pprof采样,CPU占用50%-60%。进行pprof;
  7. 根据调用链路CPU占比图,发现获取IP地址函数占用CPU最多,与docker有关;
  8. 优化使用IP地址的逻辑(服务启动时获取一次,之后所有逻辑中直接使用,不再执行获取IP的逻辑),在stg、pre环境测试优化后的代码,CPU40%多—>5%。问题得到验证;
  9. 上线prd,CPU占用10%
  10. 空跑时占用5%CPU,也属于负载过高的情况,原因:goroutine过多,每个协程中都有一个sleep代码,sleep是靠timer定时器实现,golang1.14之后timer是由存在于P中的四叉最小堆实现。所有goroutine都会加锁访问最小堆,会有很多的锁冲突,锁操作造成CPU占用,此时空跑服务真正的合理CPU占用应该在1%左右。

工作中有没有遇到什么困难问题,最后是如何解决的?

服务上线后,没有订单任务空跑CPU占用过高。首先对自己的代码有了解,配合技术监控指标中的Redis访问6k+,猜测是bgworker模块中的1024goroutine获取计算队列任务逻辑引起。注释代码,CPU掉底,问题定位。review代码逻辑,调整goroutine数和增加sleep时间(获取不到order,为了防止服务持续访问Redis空跑,sleep一段时间),CPU稳定运行,但是问题没有得到解决。怀疑是协程里sleep加锁定时器的最小堆。联合运维、DBA(涉及到redis  P95 80ms的问题,怀疑是Redis RT过长拖垮了CPU,但是DBA反馈Redis机器整体负载很低,大部分的请求都是在2ms内返回,部分请求返回时间过长只是很小一部分,不足以拖垮服务CPU)pprof,下载pprof文件。安装graphvis查看火焰图和调用链路CPU占比图,发现是获取IP地址的golang内置函数占用CPU过高(80%+),根据调用链路和golang相关包源代码查看,定位到syscall包的NetlinkRIB获取路由相关基础信息,底层调用了Recvfrom,再底层是对Linux系统的系统调用,追查至此,和运维确定是运维系统容器化docker(新上线)对golang的支持不好导致,后续运维跟进优化。研发侧出现问题是由于,每个goroutine中每次访问Redis使用了本机IP作为分布式锁的标识,每次都是动态实时获取IP,导致每个goroutine都非常消耗CPU,而且每个goroutine除了加锁、解锁用到IP,还有根据IP作为tag上报业务指标、技术错误指标的逻辑,所以CPU占用很高。其实,IP地址这种自愈,服务随docker启动后,是不会发生变化的,因此合理的做法是服务启动后获取一次,之后直接使用。流程更加合理,也避免了运维侧docker对golang支持不好的问题。由于获取IP地址时统一使用一个util包里的函数,因此优化代码很方便,统一修改函数逻辑,取消之前的逻辑,直接读取全局变量,该全局变量由服务启动时执行获取IP的逻辑赋值。问题fixed,上线后CPU占用5%,调整sleep时间,CPU占用2.6%,其实还有优化的空间,服务空跑,只是多个协程请求Redis,无任务其他计算任务和逻辑,CPU也不应该占用这么高,原因是每个goroutine中有sleep代码,sleep是靠timer定时器实现,golang1.14之后timer是由存在于P中的四叉最小堆实现。所有goroutine靠线程M运行时都会加锁访问最小堆,会有很多的锁冲突,锁操作造成CPU占用,此时空跑服务真正的合理CPU占用应该在1%左右。各个大厂的方案是:调大timer精度,或者使用时间轮,把所有goroutine中的定时sleep任务收敛到统一的时间轮调度(相当于一个定时/延时调用系统),每个goroutine需要sleep的时候向时间轮注册一个任务,同时带上需要接收任务计时结束后收通知的channel指针,时间轮系统收到请求后根据毫秒数挂在到某个队列。时间轮以1ms或者10ms为精度,没隔1ms/10ms扫描时间轮上某个格子的列表,由于列表都是按需排队,只需检查头部几个链表元素,如果时间到则向该元素中的channel发送通知,同时移除该元素。原来的goroutine从sleep变成了等待channel通知,虽然都是gopark调用,但是不再访问定时器的最小堆,没有加锁逻辑,符合golang的使用通信来共享内存的哲学。也就没有占用CPU的情况。

这篇关于工作中有没有遇到什么困难问题,最后是如何解决的?的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/989758

相关文章

SQL Server配置管理器无法打开的四种解决方法

《SQLServer配置管理器无法打开的四种解决方法》本文总结了SQLServer配置管理器无法打开的四种解决方法,文中通过图文示例介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的... 目录方法一:桌面图标进入方法二:运行窗口进入检查版本号对照表php方法三:查找文件路径方法四:检查 S

怎样通过分析GC日志来定位Java进程的内存问题

《怎样通过分析GC日志来定位Java进程的内存问题》:本文主要介绍怎样通过分析GC日志来定位Java进程的内存问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录一、GC 日志基础配置1. 启用详细 GC 日志2. 不同收集器的日志格式二、关键指标与分析维度1.

Java 线程安全与 volatile与单例模式问题及解决方案

《Java线程安全与volatile与单例模式问题及解决方案》文章主要讲解线程安全问题的五个成因(调度随机、变量修改、非原子操作、内存可见性、指令重排序)及解决方案,强调使用volatile关键字... 目录什么是线程安全线程安全问题的产生与解决方案线程的调度是随机的多个线程对同一个变量进行修改线程的修改操

Redis出现中文乱码的问题及解决

《Redis出现中文乱码的问题及解决》:本文主要介绍Redis出现中文乱码的问题及解决,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录1. 问题的产生2China编程. 问题的解决redihttp://www.chinasem.cns数据进制问题的解决中文乱码问题解决总结

全面解析MySQL索引长度限制问题与解决方案

《全面解析MySQL索引长度限制问题与解决方案》MySQL对索引长度设限是为了保持高效的数据检索性能,这个限制不是MySQL的缺陷,而是数据库设计中的权衡结果,下面我们就来看看如何解决这一问题吧... 目录引言:为什么会有索引键长度问题?一、问题根源深度解析mysql索引长度限制原理实际场景示例二、五大解决

Springboot如何正确使用AOP问题

《Springboot如何正确使用AOP问题》:本文主要介绍Springboot如何正确使用AOP问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录​一、AOP概念二、切点表达式​execution表达式案例三、AOP通知四、springboot中使用AOP导出

Python中Tensorflow无法调用GPU问题的解决方法

《Python中Tensorflow无法调用GPU问题的解决方法》文章详解如何解决TensorFlow在Windows无法识别GPU的问题,需降级至2.10版本,安装匹配CUDA11.2和cuDNN... 当用以下代码查看GPU数量时,gpuspython返回的是一个空列表,说明tensorflow没有找到

解决未解析的依赖项:‘net.sf.json-lib:json-lib:jar:2.4‘问题

《解决未解析的依赖项:‘net.sf.json-lib:json-lib:jar:2.4‘问题》:本文主要介绍解决未解析的依赖项:‘net.sf.json-lib:json-lib:jar:2.4... 目录未解析的依赖项:‘net.sf.json-lib:json-lib:jar:2.4‘打开pom.XM

XML重复查询一条Sql语句的解决方法

《XML重复查询一条Sql语句的解决方法》文章分析了XML重复查询与日志失效问题,指出因DTO缺少@Data注解导致日志无法格式化、空指针风险及参数穿透,进而引发性能灾难,解决方案为在Controll... 目录一、核心问题:从SQL重复执行到日志失效二、根因剖析:DTO断裂引发的级联故障三、解决方案:修复

IDEA Maven提示:未解析的依赖项的问题及解决

《IDEAMaven提示:未解析的依赖项的问题及解决》:本文主要介绍IDEAMaven提示:未解析的依赖项的问题及解决,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝... 目录IDEA Maven提示:未解析的依编程赖项例如总结IDEA Maven提示:未解析的依赖项例如