07.es_thread_pool使用

2024-08-31 15:48
文章标签 es 使用 thread 07 pool

本文主要是介绍07.es_thread_pool使用,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

文章目录

    • 1. 线程池的类型
      • 1. fixed
      • 2. fixed_auto_queue_size
      • 3. scaling 类型线程池
    • 2.相对重要的线程池
      • 1. generic线程池
      • 2. search线程池
      • 3. search_throttled线程池
      • 4. get线程池
      • 5. analyze线程池
      • 6. write线程池
      • 7. snapshot线程池
      • 8. warmer线程池
      • 9. refresh线程池
      • 10. listener线程池
    • 3. 修改某个线程池的设置
    • 4. Processors setting

在es这种的每个node都会有多个线程池来处理任务。很多线程池都会有一个queue来缓存一些需要处理的request而不是直接丢弃。
这里会着重介绍比较重要的线程池,在介绍线程池之前我们先介绍es的线程池的都有哪些类型。

1. 线程池的类型

1. fixed

fixed的线程池是一个有固定线程数量的thread pool,而且会有一个固定大小的queue来缓存处理不过来的任务。
下面的方式可以设置一个fixed thread pool

thread_pool:write:size: 30queue_size: 1000

queue_size的值如果不设置的话默认为-1,代表无限大。
当queue被填满的时候请求就会被abort掉。

2. fixed_auto_queue_size

这个是实验性的类型特性,fixed_auto_queue_size的thread的数量是fixed,但是queue的大小是根据一些规则进行变动的。

可以这样设置一个fixed_auto_queue_size thread pool:


thread_pool:search:size: 30queue_size: 500min_queue_size: 10max_queue_size: 1000auto_queue_frame_size: 2000target_response_time: 1s

queue_size 是初始化的queue的size数量
auto_queue_frame_size的作用是用来衡量是否需要扩容的请求数。
target_response_time的含义是当任务的处理时间(加上排队时间)大于1s的时候会对queue进行缩容,来避免大量的超时处理。

3. scaling 类型线程池

这类线程池的thread的数量是可以基于负载的大小动态变化的

可以这样设置一个scaling的线程池

thread_pool:warmer:core: 1max: 8keep_alive: 2m

keep_alive 指定了闲置的线程池达到2m会被回收

2.相对重要的线程池

1. generic线程池

普通线程池,一般用来运行后台任务或者discovery等,是一个大小可以scaling的线程池。

2. search线程池

针对 count/search/suggest 操作 ,线程池的类型是 fixed_auto_queue_size 线程池的大小是固定值 int((# of available_processors * 3) / 2) + 1, 有一个可以伸缩的queue, queue size 初始值是 1000.

3. search_throttled线程池

应对count/search/suggest/get 操作,但是这些对应的索引是search_throttled indices.线程池的类型是 fixed_auto_queue_size thread 的size 是 1, queue_size 的初始值 100.

4. get线程池

get操作对应的线程池,Thread pool 的类型是 fixed ,size 是 available processors, queue_size 是 1000.

5. analyze线程池

analyze 请求对应的线程池, Thread pool 的类型是 fixed ,size 是1, queue size 是16.

6. write线程池

这个线程池对应处理的是index/delete/update请求和bulk请求,Thread pool 的类型是 fixed,size 是 available processors queue size 是 200。thread pool最大的可设置的值为1+ available processors

这个线程池对应处理的是 Thread pool 的类型是 fixed ,size 是 , queue size 是 。

7. snapshot线程池

这个线程池对应处理的是snapshot/restore操作,Thread pool 的类型是 scaling,size 最大值是min(5, (# of available processors)/2), 每个thread的keep-alive时间是5m,如果5m都是空闲的,那么该线程就会别回收。

8. warmer线程池

这个线程池对应处理的是segment warm-up 操作, Thread pool 的类型是scaling,size 最大值是min(5, (# of available processors)/2), 每个thread的keep-alive时间是5m,如果5m都是空闲的,那么该线程就会别回收。

9. refresh线程池

这个线程池对应处理的是refresh 操作,Thread pool 的类型是scaling,size 最大值是min(10, (# of available processors)/2), 每个thread的keep-alive时间是5m,如果5m都是空闲的,那么该线程就会别回收。

10. listener线程池

这个线程池对应处理的是java client的操作,Thread pool 的类型是scaling,size 最大值是min(10, (# of available processors)/2), 每个thread的keep-alive时间是5m,如果5m都是空闲的,那么该线程就会别回收。

3. 修改某个线程池的设置

thread_pool:write:size: 30

4. Processors setting

设置elasticsearch动态监测到的processor的数量,这个一般情况下不用设置,只有由于操作系统的原因可能导致检测不准,或者因为对应的服务器上还有其他服务,想要缩小es使用的cpu核数才会使用。

processors: 2

这篇关于07.es_thread_pool使用的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1124327

相关文章

Java中流式并行操作parallelStream的原理和使用方法

《Java中流式并行操作parallelStream的原理和使用方法》本文详细介绍了Java中的并行流(parallelStream)的原理、正确使用方法以及在实际业务中的应用案例,并指出在使用并行流... 目录Java中流式并行操作parallelStream0. 问题的产生1. 什么是parallelS

Linux join命令的使用及说明

《Linuxjoin命令的使用及说明》`join`命令用于在Linux中按字段将两个文件进行连接,类似于SQL的JOIN,它需要两个文件按用于匹配的字段排序,并且第一个文件的换行符必须是LF,`jo... 目录一. 基本语法二. 数据准备三. 指定文件的连接key四.-a输出指定文件的所有行五.-o指定输出

Linux jq命令的使用解读

《Linuxjq命令的使用解读》jq是一个强大的命令行工具,用于处理JSON数据,它可以用来查看、过滤、修改、格式化JSON数据,通过使用各种选项和过滤器,可以实现复杂的JSON处理任务... 目录一. 简介二. 选项2.1.2.2-c2.3-r2.4-R三. 字段提取3.1 普通字段3.2 数组字段四.

Linux kill正在执行的后台任务 kill进程组使用详解

《Linuxkill正在执行的后台任务kill进程组使用详解》文章介绍了两个脚本的功能和区别,以及执行这些脚本时遇到的进程管理问题,通过查看进程树、使用`kill`命令和`lsof`命令,分析了子... 目录零. 用到的命令一. 待执行的脚本二. 执行含子进程的脚本,并kill2.1 进程查看2.2 遇到的

详解SpringBoot+Ehcache使用示例

《详解SpringBoot+Ehcache使用示例》本文介绍了SpringBoot中配置Ehcache、自定义get/set方式,并实际使用缓存的过程,文中通过示例代码介绍的非常详细,对大家的学习或者... 目录摘要概念内存与磁盘持久化存储:配置灵活性:编码示例引入依赖:配置ehcache.XML文件:配置

Java 虚拟线程的创建与使用深度解析

《Java虚拟线程的创建与使用深度解析》虚拟线程是Java19中以预览特性形式引入,Java21起正式发布的轻量级线程,本文给大家介绍Java虚拟线程的创建与使用,感兴趣的朋友一起看看吧... 目录一、虚拟线程简介1.1 什么是虚拟线程?1.2 为什么需要虚拟线程?二、虚拟线程与平台线程对比代码对比示例:三

k8s按需创建PV和使用PVC详解

《k8s按需创建PV和使用PVC详解》Kubernetes中,PV和PVC用于管理持久存储,StorageClass实现动态PV分配,PVC声明存储需求并绑定PV,通过kubectl验证状态,注意回收... 目录1.按需创建 PV(使用 StorageClass)创建 StorageClass2.创建 PV

Redis 基本数据类型和使用详解

《Redis基本数据类型和使用详解》String是Redis最基本的数据类型,一个键对应一个值,它的功能十分强大,可以存储字符串、整数、浮点数等多种数据格式,本文给大家介绍Redis基本数据类型和... 目录一、Redis 入门介绍二、Redis 的五大基本数据类型2.1 String 类型2.2 Hash

Redis中Hash从使用过程到原理说明

《Redis中Hash从使用过程到原理说明》RedisHash结构用于存储字段-值对,适合对象数据,支持HSET、HGET等命令,采用ziplist或hashtable编码,通过渐进式rehash优化... 目录一、开篇:Hash就像超市的货架二、Hash的基本使用1. 常用命令示例2. Java操作示例三

Linux创建服务使用systemctl管理详解

《Linux创建服务使用systemctl管理详解》文章指导在Linux中创建systemd服务,设置文件权限为所有者读写、其他只读,重新加载配置,启动服务并检查状态,确保服务正常运行,关键步骤包括权... 目录创建服务 /usr/lib/systemd/system/设置服务文件权限:所有者读写js,其他