ATS线上报告个别日志过大无法写入问题的解决方法

2024-03-18 15:38

本文主要是介绍ATS线上报告个别日志过大无法写入问题的解决方法,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

访问日志是分析CDN线上问题的重要参考依据,但是我们在实际运维中发现很多部署点日志记录出现一些小问题,会造成相应的日志条目丢失。我们发现线上一些服务器上时常会报告如下问题:

diags.log中经常报如下错误:

[Mar 31 02:39:34.185] Server {0x2b1d85563700} NOTE: <LogObject.cc:616 (log)> Skipping the current log entry for access.log because its size (9136) exceeds the maximum payload space in a log buffer
分析问题
这里已经指出了报错日志的代码位置在LogObject.cc:616,导致出错的函数位置的源码是

显然我们需要研究 _checkout_write()函数的实现,并关注返回为NULL的值,里面实际上是调用
result_code = buffer->checkout_write(write_offset, bytes_needed);
来控制多线程同步写日志,

上述日志信息所走的流程是

它是result_code的返回码LogBuffer::LB_BUFFER_TOO_SMALL,所以最终我们还得查看 LogBuffer::checkout_write()返回该状态码的地方,注意如下函数的返回值
LB_ResultCode ret_val = LB_BUSY;
返回的该代码是

上面的比较,m_size的值很关键,我们需要关注m_size的默认赋值是多少?这是写日志的一个初始缓存的长度,字符串型的,在 LogBuffer.cc

它是调用它的构造函数生成的
LogBuffer(LogObject * owner, size_t size,   size_t buf_align = LB_DEFAULT_ALIGN, size_t write_align = INK_MIN_ALIGN);

可以看出分配指定长度的缓存给m_unaligned_buffer,并将它对齐为m_buffer,动态释放内存的地方在析构函数中

建议gdb追踪来找到调用点,发现还是在LogObject.cc中有几处地方,都有如下代码
LogBuffer *b = NEW (new LogBuffer (this,  Log::config->log_buffer_size));
现在继续追踪Log的配置项,在sourceInsight中搜索 log_buffer_size得到

结果很清楚了,配置项配大点就可以了。
解决方法
在records.config中添加一项proxy.config.log.log_buffer_size,配置大些就可以了。直接热修改如下:
traffic_line -r proxy.config.log.log_buffer_size
traffic_line -s proxy.config.log.log_buffer_size -v 40960
traffic_line -x
如果还是报类似上面的错误,可以继续酌情修改这个值,总之,要根据业务的实际情况修改


更进一步修正

修改上述配置后,发现线上日志出现如下报错


经过查看,发现与另一个配置proxy.config.log.max_line_size有关,它的默认值也是9216

解决方法

在records.config中添加一条配置(可根据实际情况酌情修改)

CONFIG proxy.config.log.max_line_size INT 15000

下面是修改前后的判决图


下面是源码追踪流程,不愿深究的可以略去。

调用流程追踪

报错地方的源码是


在source insight中追踪源码中的max_line_size可以看到基本调用流程。


剩下的是配置项的读取



总结:最终一个通用的设置,在records.config中加入:

CONFIG proxy.config.log.max_line_size INT 35000
CONFIG proxy.config.log.log_buffer_size INT 262144

这篇关于ATS线上报告个别日志过大无法写入问题的解决方法的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/822814

相关文章

使用python生成固定格式序号的方法详解

《使用python生成固定格式序号的方法详解》这篇文章主要为大家详细介绍了如何使用python生成固定格式序号,文中的示例代码讲解详细,具有一定的借鉴价值,有需要的小伙伴可以参考一下... 目录生成结果验证完整生成代码扩展说明1. 保存到文本文件2. 转换为jsON格式3. 处理特殊序号格式(如带圈数字)4

Java中流式并行操作parallelStream的原理和使用方法

《Java中流式并行操作parallelStream的原理和使用方法》本文详细介绍了Java中的并行流(parallelStream)的原理、正确使用方法以及在实际业务中的应用案例,并指出在使用并行流... 目录Java中流式并行操作parallelStream0. 问题的产生1. 什么是parallelS

MySQL数据库双机热备的配置方法详解

《MySQL数据库双机热备的配置方法详解》在企业级应用中,数据库的高可用性和数据的安全性是至关重要的,MySQL作为最流行的开源关系型数据库管理系统之一,提供了多种方式来实现高可用性,其中双机热备(M... 目录1. 环境准备1.1 安装mysql1.2 配置MySQL1.2.1 主服务器配置1.2.2 从

Python版本信息获取方法详解与实战

《Python版本信息获取方法详解与实战》在Python开发中,获取Python版本号是调试、兼容性检查和版本控制的重要基础操作,本文详细介绍了如何使用sys和platform模块获取Python的主... 目录1. python版本号获取基础2. 使用sys模块获取版本信息2.1 sys模块概述2.1.1

IDEA和GIT关于文件中LF和CRLF问题及解决

《IDEA和GIT关于文件中LF和CRLF问题及解决》文章总结:因IDEA默认使用CRLF换行符导致Shell脚本在Linux运行报错,需在编辑器和Git中统一为LF,通过调整Git的core.aut... 目录问题描述问题思考解决过程总结问题描述项目软件安装shell脚本上git仓库管理,但拉取后,上l

Python实现字典转字符串的五种方法

《Python实现字典转字符串的五种方法》本文介绍了在Python中如何将字典数据结构转换为字符串格式的多种方法,首先可以通过内置的str()函数进行简单转换;其次利用ison.dumps()函数能够... 目录1、使用json模块的dumps方法:2、使用str方法:3、使用循环和字符串拼接:4、使用字符

Python版本与package版本兼容性检查方法总结

《Python版本与package版本兼容性检查方法总结》:本文主要介绍Python版本与package版本兼容性检查方法的相关资料,文中提供四种检查方法,分别是pip查询、conda管理、PyP... 目录引言为什么会出现兼容性问题方法一:用 pip 官方命令查询可用版本方法二:conda 管理包环境方法

Linux云服务器手动配置DNS的方法步骤

《Linux云服务器手动配置DNS的方法步骤》在Linux云服务器上手动配置DNS(域名系统)是确保服务器能够正常解析域名的重要步骤,以下是详细的配置方法,包括系统文件的修改和常见问题的解决方案,需要... 目录1. 为什么需要手动配置 DNS?2. 手动配置 DNS 的方法方法 1:修改 /etc/res

解决docker目录内存不足扩容处理方案

《解决docker目录内存不足扩容处理方案》文章介绍了Docker存储目录迁移方法:因系统盘空间不足,需将Docker数据迁移到更大磁盘(如/home/docker),通过修改daemon.json配... 目录1、查看服务器所有磁盘的使用情况2、查看docker镜像和容器存储目录的空间大小3、停止dock

JavaScript对象转数组的三种方法实现

《JavaScript对象转数组的三种方法实现》本文介绍了在JavaScript中将对象转换为数组的三种实用方法,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友... 目录方法1:使用Object.keys()和Array.map()方法2:使用Object.entr