vm内核参数之内存水位min_free_kbytes和保留内存lowmem_reserve_ratio

2024-05-04 08:32
文章标签 内存 vm min free kbytes lowmem reserve ratio 内核 水位 参数 保留

本文主要是介绍vm内核参数之内存水位min_free_kbytes和保留内存lowmem_reserve_ratio，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

注：本文分析基于3.10.0-693.el7内核版本，即CentOS 7.4

1、zone内存水位值

系统内存的每个node上都有不同的zone，每个zone的内存都有对应的水位线，当内存使用达到某个阈值时就会触发相应动作，比如直接回收内存，或者启动kswap进行回收内存。我们可以通过查看/proc/zoneinfo来确认每个zone的min、low、high水位值。

[root@centos7 ~]# cat /proc/zoneinfo | grep -E "Node|min|low|high "
Node 0, zone      DMAmin      92low      115high     138
Node 0, zone    DMA32min      10839low      13548high     16258
Node 1, zone    DMA32min      5706low      7132high     8559
Node 1, zone   Normalmin      5890low      7362high     8835

而这些内存的水位值就由/proc/sys/vm/min_free_kbytes这个参数控制。

2、zone内存保留值

系统在分配内存时，有可能会出现跨zone分配内存的情况，比如，如果我们想要在zone的normal区域分配一个order为6大小的内存块，但是由于normal内存使用紧张，无法提供该大小的内存块，就会往下到DMA32的zone空间去分配。一两次没关系，如果每次都这么操作，那么DMA32的内存就会被耗光；等到某些应用程序需要该zone的内存时无法分配，特别对于某些只能使用特定zone内存的程序。因此对于跨zone使用内存需要控制，因此在考虑是否能进行跨zone分配时，需要参考该zone对应的lowmem_reserve内存。该值就由/proc/sys/vm/lowmem_reserve_ratio控制。

3、内核初始化zone内存水位线

内核在初始化阶段会调用init_per_zone_wmark_min来进行每个zone的内存水位线初始化，同时也会设置每个zone的lowmem_reserve值。

/** For small machines we want it small (128k min).  For large machines* we want it large (64MB max).  But it is not linear, because network* bandwidth does not increase linearly with machine size.  We use** 	min_free_kbytes = 4 * sqrt(lowmem_kbytes), for better accuracy:*	min_free_kbytes = sqrt(lowmem_kbytes * 16)*/
int __meminit init_per_zone_wmark_min(void)
{unsigned long lowmem_kbytes;int new_min_free_kbytes;//获取系统空闲内存值，扣除每个zone的high水位值后的总和lowmem_kbytes = nr_free_buffer_pages() * (PAGE_SIZE >> 10);//根据上述公式计算new_min_free_kbytes值new_min_free_kbytes = int_sqrt(lowmem_kbytes * 16);if (new_min_free_kbytes > user_min_free_kbytes) {min_free_kbytes = new_min_free_kbytes;//最小128kif (min_free_kbytes < 128)min_free_kbytes = 128;//最大65M，但是这只是系统初始化的值，可以通过proc接口设置范围外的值if (min_free_kbytes > 65536)min_free_kbytes = 65536;} else {pr_warn("min_free_kbytes is not updated to %d because user defined value %d is preferred\n",new_min_free_kbytes, user_min_free_kbytes);}//设置每个zone的min low high水位值setup_per_zone_wmarks();refresh_zone_stat_thresholds();//设置每个zone为其他zone的保留内存setup_per_zone_lowmem_reserve();setup_per_zone_inactive_ratio();return 0;
}

系统初始化里min_free_kbytes的值介于128k~65M之间，但是通过proc接口设置就没这个限制，

int min_free_kbytes_sysctl_handler(ctl_table *table, int write, void __user *buffer, size_t *length, loff_t *ppos)
{int rc;rc = proc_dointvec_minmax(table, write, buffer, length, ppos);if (rc)return rc;if (write) {user_min_free_kbytes = min_free_kbytes;//直接根据用户的值设置min、low、high水位值setup_per_zone_wmarks();}return 0;
}

然后就是进入setup_per_zone_wmarks计算每个zone的min、low、high水位线，因为需要考虑多个zone，因此这个min_free_kbytes需要按比例分配给各个zone。

void setup_per_zone_wmarks(void)
{mutex_lock(&zonelists_mutex);__setup_per_zone_wmarks();mutex_unlock(&zonelists_mutex);
}static void __setup_per_zone_wmarks(void)
{unsigned long pages_min = min_free_kbytes >> (PAGE_SHIFT - 10);unsigned long lowmem_pages = 0;struct zone *zone;unsigned long flags;//统计非ZONE_HIGHMEM的内存总量for_each_zone(zone) {if (!is_highmem(zone))lowmem_pages += zone->managed_pages;}//针对每个zone设置min low high水位线for_each_zone(zone) {u64 tmp;spin_lock_irqsave(&zone->lock, flags);//以下两个语句就是按当前zone内存量占总的内存量的大小来分配min的水位值//因为所有zone的min水位相加才是真正的min_free_kbytestmp = (u64)pages_min * zone->managed_pages;do_div(tmp, lowmem_pages);//64位机器上不会有highmem区域，因此不考虑该情况if (is_highmem(zone)) {...} else {//设置min水位值zone->watermark[WMARK_MIN] = tmp;}//low水位值=5/4的min水位值zone->watermark[WMARK_LOW]  = min_wmark_pages(zone) + (tmp >> 2);//high水位值=3/2的min水位值zone->watermark[WMARK_HIGH] = min_wmark_pages(zone) + (tmp >> 1);__mod_zone_page_state(zone, NR_ALLOC_BATCH,high_wmark_pages(zone) -low_wmark_pages(zone) -zone_page_state(zone, NR_ALLOC_BATCH));setup_zone_migrate_reserve(zone);spin_unlock_irqrestore(&zone->lock, flags);}//更新totalreserve_pages的值calculate_totalreserve_pages();
}

所以总的来说，

  • watermark[WMARK_MIN] = min_free_kbytes/4*zone.pages/zone.allpages
  • watermark[WMARK_LOW] = 5/4*watermark[WMARK_MIN]
  • watermark[WMARK_HIGH] = 3/2*watermark[WMARK_MIN]

设置完内存水位线后，会更新totalreserve_pages的值，这个值用于评估系统正常运行时需要使用的内存，该值会作用于overcommit时，判断当前是否允许此次内存分配。

不过由于此时各个zone的lowmem_reserve值还未设置，因此这里我们先不分析，我们先看lowmem_reserve值是如何设置，毕竟totalreserve_pages的值会在设置lowmem_reserve后再次更新。

那么我们就进入setup_per_zone_lowmem_reserve，看看lowmem_reserve值是如何设置的，

/** setup_per_zone_lowmem_reserve - called whenever*	sysctl_lower_zone_reserve_ratio changes.  Ensures that each zone*	has a correct pages reserved value, so an adequate number of*	pages are left in the zone after a successful __alloc_pages().*/
static void setup_per_zone_lowmem_reserve(void)
{struct pglist_data *pgdat;enum zone_type j, idx;//遍历每个nodefor_each_online_pgdat(pgdat) {//遍历每个zone，假设系统上有ZONE_DMA，ZONE_DMA32，ZONE_NORMAL三个zone类型for (j = 0; j < MAX_NR_ZONES; j++) {struct zone *zone = pgdat->node_zones + j;unsigned long managed_pages = zone->managed_pages;//j=0,则zone[DMA].lowmem_reserve[DMA] = 0//j=1,则zone[DMA32].lowmem_reserve[DMA32] = 0//j=2,则zone[NORMAL].lowmem_reserve[NORMAL] = 0//这里的意思就是对于自身zone的内存使用，不需要考虑保留zone->lowmem_reserve[j] = 0;idx = j;while (idx) {struct zone *lower_zone;idx--;if (sysctl_lowmem_reserve_ratio[idx] < 1)sysctl_lowmem_reserve_ratio[idx] = 1;lower_zone = pgdat->node_zones + idx;//j=0,不会进入循环//j=1,idx=0,则zone[DMA].lowmem_reserve[DMA32] = zone[DMA32].pages/sysctl_lowmem_reserve_ratio[DMA]//j=2,idx=1,则zone[DMA32].lowmem_reserve[NORMAL] = zone[NORMAL].pages/sysctl_lowmem_reserve_ratio[DMA32]//    idx=0,则zone[DMA].lowmem_reserve[NORMAL] = zone[NORMAL+DMA32].pages/sysctl_lowmem_reserve_ratio[DMA]  lower_zone->lowmem_reserve[j] = managed_pages /sysctl_lowmem_reserve_ratio[idx];managed_pages += lower_zone->managed_pages;}}}//再次更新totalreserve_pages的值calculate_totalreserve_pages();
}

由于内存分配只可能向下分配，不可能向上分配，即需要DMA的内存不可能到DMA32或者NORMAL上分配，
同理需要DMA32的内存也不可能到NORMAL上分配，因此不存在zone[DMA32].lowmem_reserve[DMA]，
也不存在zone[NORMAL].lowmem_reserve[DMA]和zone[NORMAL].lowmem_reserve[DMA32],

整理该过程，我们有以下计算方式，

zone[DMA].lowmem_reserve[DMA] = 0
zone[DMA].lowmem_reserve[DMA32] = zone[DMA32].pages/sysctl_lowmem_reserve_ratio[DMA]
zone[DMA].lowmem_reserve[NORMAL] = zone[NORMAL+DMA32].pages/sysctl_lowmem_reserve_ratio[DMA] zone[DMA32].lowmem_reserve[DMA32] = 0
zone[DMA32].lowmem_reserve[NORMAL] = zone[NORMAL].pages/sysctl_lowmem_reserve_ratio[DMA32]zone[NORMAL].lowmem_reserve[NORMAL] = 0

总的来说就是为了避免跨zone分配内存将下级zone内存耗光的情况。

设置lowmem_reserve后就会再次更新totalreserve_pages的值，

/** calculate_totalreserve_pages - called when sysctl_lower_zone_reserve_ratio*	or min_free_kbytes changes.*/
static void calculate_totalreserve_pages(void)
{struct pglist_data *pgdat;unsigned long reserve_pages = 0;enum zone_type i, j;//遍历每个nodefor_each_online_pgdat(pgdat) {//遍历每个zonefor (i = 0; i < MAX_NR_ZONES; i++) {struct zone *zone = pgdat->node_zones + i;unsigned long max = 0;/* Find valid and maximum lowmem_reserve in the zone *///查找当前zone中，为上级zone内存类型最大的保留值for (j = i; j < MAX_NR_ZONES; j++) {if (zone->lowmem_reserve[j] > max)max = zone->lowmem_reserve[j];}/* we treat the high watermark as reserved pages. *///每个zone的high水位值和最大保留值之和当做是系统运行保留阈值max += high_wmark_pages(zone);if (max > zone->managed_pages)max = zone->managed_pages;reserve_pages += max;/** Lowmem reserves are not available to* GFP_HIGHUSER page cache allocations and* kswapd tries to balance zones to their high* watermark.  As a result, neither should be* regarded as dirtyable memory, to prevent a* situation where reclaim has to clean pages* in order to balance the zones.*/zone->dirty_balance_reserve = max;}}dirty_balance_reserve = reserve_pages;//这个totalreserve_pages在overcommit时会使用到//该值作为系统正常运行的最低保证totalreserve_pages = reserve_pages;
}

4、系统验证

通过代码分析后我们了解了内存的min、low、high水位线，以及每个zone的lowmem_reserve，下面我们就来验证下系统上这些值是否符合我们的分析。

首先是min、low、high水位线和min_free_kbytes，我们以min值为例，

[root@centos7 ~]# echo 90112 > /proc/sys/vm/min_free_kbytes
[root@centos7 ~]# cat /proc/sys/vm/min_free_kbytes
90112
[root@centos7 ~]# cat /proc/zoneinfo | grep -E "Node|managed|min"
Node 0, zone      DMAmin      92managed  3977
Node 0, zone    DMA32min      10844managed  467178
Node 1, zone    DMA32min      5703managed  245716
Node 1, zone   Normalmin      5887managed  253642

由此有，

Node[0].DMA.min=3977/4*90112/(3977+467178+245716+253642)=92
Node[0].DMA32.min=467178/4*90112/(3977+467178+245716+253642)=10844
Node[1].DMA32.min=90112/4*245716/(3977+467178+245716+253642)=5703
Node[1].Normal.min=90112/4*253642/(3977+467178+245716+253642)=5887

可见是符合我们的分析。

然后是lowmem_reserve，

[root@centos7 ~]# cat /proc/zoneinfo | grep -E "Node|managed|protection"
Node 0, zone      DMAmanaged  3977protection: (0, 1824, 1824, 1824)
Node 0, zone    DMA32managed  467178protection: (0, 0, 0, 0)
Node 1, zone    DMA32managed  245716protection: (0, 0, 990, 990)
Node 1, zone   Normalmanaged  253642protection: (0, 0, 0, 0)
[root@centos7 ~]# cat /proc/sys/vm/lowmem_reserve_ratio 
256	256	32

这里的计算是要区分node的，由于系统上没有MOVEABLE的zone，我们就不计算这个zone的相关参数，由此有，

Node[0].zone[DMA].lowmem_reserve[DMA] = 0
Node[0].zone[DMA].lowmem_reserve[DMA32] = Node[0].zone[DMA32].pages/sysctl_lowmem_reserve_ratio[DMA] = 467178/256 = 1824
Node[0].zone[DMA].lowmem_reserve[NORMAL] = Node[0].zone[NORMAL+DMA32].pages/sysctl_lowmem_reserve_ratio[DMA] = 467178/256 = 1824Node[0].zone[DMA32].lowmem_reserve[DMA] = 0
Node[0].zone[DMA32].lowmem_reserve[DMA32] = 0
Node[0].zone[DMA32].lowmem_reserve[NORMAL] = Node[0].zone[NORMAL].pages/sysctl_lowmem_reserve_ratio[DMA32] = 0/256 = 0Node[1].zone[DMA32].lowmem_reserve[DMA] = 0
Node[1].zone[DMA32].lowmem_reserve[DMA32] = 0
Node[1].zone[DMA32].lowmem_reserve[NORMAL] = Node[1].zone[NORMAL].pages/sysctl_lowmem_reserve_ratio[DMA32] = 253642/256 = 990

由此可见，确实符合我们的分析。

这篇关于vm内核参数之内存水位min_free_kbytes和保留内存lowmem_reserve_ratio的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！


http://www.chinasem.cn/article/958771。

相关文章

SpringMVC日期参数转换问题Can not deserialize value of type java.util.Date from String 2018-07-19 15:59:34

SpringMVC日期参数转换问题Can not deserialize value of type java.util.Date from String 2018-07-19 15:59:34

问题分析 报错日志 Caused by: com.fasterxml.jackson.databind.exc.InvalidFormatException: Can not deserializevalue of type java.util.Date from Stringto parse Date value '2018-07-19 15:59:34': Can not parse da
阅读更多...
SpringMVC传入参数

SpringMVC传入参数

源码请见共享目录CSDN/Java Web(Maven)/4.SpringMVC参数传递.zip 一、 目标 获取get方法的传入参数获取post方法的传入的参数获取请求header中的信息获取cookies中的信息获取url中的指定字段值获取内置的HttpServletRequest和HttpServletResponse 二、 用到的知识点 spring框架的SpringMVC的知识点
阅读更多...
【坑】在js代码中误用保留关键字

【坑】在js代码中误用保留关键字

写了一个小的测试代码 <!DOCTYPE HTML PUBLIC "-//W3C//DTD HTML 4.01 Transitional//EN" "http://www.w3.org/TR/html4/loose.dtd"><html><head><meta http-equiv="Content-Type" content="text/html; charset=utf-8"><
阅读更多...
在xml文件中配置数据库url需要带多个参数的时候IDE提示The reference to entity characterEncoding must end with the ';'

在xml文件中配置数据库url需要带多个参数的时候IDE提示The reference to entity characterEncoding must end with the ';'

原因 xml文件中对”&”符需要转义 解决办法 把”&”改成&amp 以hibernate.cfg.xml文件的配置url来举例的话就是这样 <property name="hibernate.connection.url">jdbc:mysql://localhost:3306/Test?useSSL=true&amp;characterEncoding=utf8</property>
阅读更多...
LiveGBS流媒体平台GB/T28181用户手册-服务器概览：通道信息、负载信息、CPU使用、存储使用、带宽使用（Mbps）、内存使用

LiveGBS流媒体平台GB/T28181用户手册-服务器概览：通道信息、负载信息、CPU使用、存储使用、带宽使用（Mbps）、内存使用

LiveGBS用户手册-服务器概览：通道信息、负载信息、CPU使用、存储使用、带宽使用（Mbps）、内存使用 1、服务器概览1.1、通道信息1.2、负载信息1.2.1、信息说明1.2.2、会话列表 1.3、CPU使用1.4、存储使用1.5、带宽使用（Mbps）1.6、内存使用 2、搭建GB28181视频直播平台 1、服务器概览 LiveGBS登陆后可以看到整体的服务器接入使用情况
阅读更多...
JVM内存与GC

JVM内存与GC

文章目录 概览内存与GC堆与栈：方法区常量池交互流程GC局部GCMinor GC触发：Minor GC表现：对象晋升 全部GCGC算法 概览 内存与GC 顺序是：Java程序编译为.class–>加载到运行时数据区–>最后执行 整个内存（运行时数据区）分为：一堆二栈一方法，方法内部常量池 堆与栈： 方法区 为什么替换： 1、字符串存在永久代中，容易
阅读更多...
Linux内核基础 -- I2C 控制器驱动开发指南

Linux内核基础 -- I2C 控制器驱动开发指南

Linux Kernel I2C 控制器驱动开发指南 本文档旨在指导开发者如何在 Linux 内核中编写和注册 I2C 控制器驱动。 1. I2C 控制器驱动代码位置 在 Linux 内核中，I2C 控制器的驱动代码通常位于以下路径： drivers/i2c/busses/ 在这个目录中，每个 I2C 控制器的驱动通常都有一个独立的 C 文件。例如，i2c-bcm2835.c、i2c-
阅读更多...
【Golang】 Go语言中如何将参数添加到URL中

【Golang】 Go语言中如何将参数添加到URL中

文章目录 前言一、参数解释二、代码实现三、总结 前言 在开发Web应用程序时，我们经常需要将参数添加到URL中，以便将数据发送到服务器。这些参数通常用于GET请求，以向服务器传递查询条件或其他信息。在Go语言中，我们可以使用net/url包来轻松地完成这项工作。本文将介绍如何使用net/url包来将参数添加到URL中。 一、参数解释 在Go语言的net/url包中，我
阅读更多...
ROS总结——ROS服务和参数

ROS总结——ROS服务和参数

理解ROS服务和参数 本博客是对http://wiki.ros.org/上ROS教程的学习总结，欢迎大家交流学习。本节讲解ROS 服务和参数的知识，以及命令行工具rosservice 和 rosparam的使用方法。 1. 运行turtlesim 运行turtlesim可参考ROS总结——ROS话题，在不同的终端分别运行： $ roscore$ rosrun turtlesim tu
阅读更多...
python脚本执行传递的参数获取方法

python脚本执行传递的参数获取方法

获取向python脚本传递的参数的方法：              需要引入模块：sys              参数个数：        len(sys.argv)              脚本名：            sys.argv[0]              参数1：              sys.argv[1]              参数2：
阅读更多...

Copyright China编程 23002807@qq.com

沪ICP备2023033072号-2