ElasticSearch新增IK扩展词后,让历史数据生效方法

2023-10-08 05:28

本文主要是介绍ElasticSearch新增IK扩展词后,让历史数据生效方法,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

ElasticSearch新增IK扩展词后,让历史数据生效方法

一、前言

ES词库新增一个关键词、同义词、简繁体和停止词之后,发现只有新数据进入到索引才会生效,对于之前已经存储到索引的数据,还是按照之前的方式来做分词,这个问题应该如何解决呢?

我在网上发现有三种方式:

第一种就是将之前的索引的索引数据重新再刷一次,这种做法比较伤身体,不太推荐。

第二种方式就是采用reindex,这种方法一般用于解决索引结构调整比较大的问题,需要新建一个副本索引,把数据全部迁移到副本索引上,然后将原有索引删除,最后再将副本索引取一个别名,名字为原有索引的名称。

第三种方式就是采用update_by_query,这种方式可以不创建新索引,在已有索引基础上,将数据根据现有结构重新刷新一次,刷新之后,索引的历史数据就会采用词库新增词建立倒排索引了。

二、ES实现

2.1 参数简介

POST article/_update_by_query?conflicts=proceed&wait_for_completion=false&scroll_size=100
{"query": {"match_all": {}}
}

conflicts: 当更新遇到版本冲突是否继续执行,proceed为继续执行,abort为停止执行

wait_for_completion: 发送请求后之后等待返回结果,如果设置为false,ES将会开启一个后台任务,并且返回一个任务编号;如何设置为true,发送请求之后将会一直等待任务执行完毕才会返回结果,如果数据量比较大,不建议设置为true,因为容易出现请求超时502 Bad Request的情况。

scroll_size: 任务每次批量执行多少条数据,默认设置为1000条,如果一条数据执行时间比较长,可以考虑设置为100。

query: 此处的query你可以任意的发挥你的想象,这个就类似与数据库中的update table set column = value where field = condition中的where子句一样,可以过滤非必要更新数据并较少刷新时间。

2.2 获取任务执行详情

get _tasks/H9tGBF8FS-il0WyDNnhtSA:44192641

返回结果

{"completed": false,"task": {"node": "H9tGBF8FS-il0WyDNnhtSA","id": 44283452,"type": "transport","action": "indices:data/write/update/byquery","status": {"total": 94759,"updated": 33199,"created": 0,"deleted": 0,"batches": 333,"version_conflicts": 1,"noops": 0,"retries": {"bulk": 0,"search": 0},"throttled_millis": 0,"requests_per_second": -1,"throttled_until_millis": 0},"description": "update-by-query [article]","start_time_in_millis": 1696666800258,"running_time_in_nanos": 524996978138,"cancellable": true,"cancelled": false,"headers": {}}
}

2.3 获取ES任务列表

get _tasks?detailed=true&actions=*byquery&pretty

2.4 取消任务

POST _tasks/H9tGBF8FS-il0WyDNnhtSA:44161765/_cancel

2.5 进度条

如果你认为执行时间太长了,可以考虑做个进度条给在界面上展示,毕竟没有人会想点击刷新之后世界进入茫然无知的状况。下面是进度条的简短代码。

@Override
public BarVO getBar(String taskId) {if (taskId == null || !taskId.contains(":")){throw new RuntimeException("任务编号不合法");}// 1. 查询进度条GetTasksResponse tasksResponse = null;try {tasksResponse = elasticsearchClient.tasks().get(taskQueryBuilder -> taskQueryBuilder.taskId(taskId));} catch (IOException e) {throw new RuntimeException(e);}TaskStatus taskStatus = tasksResponse.task().status();BarVO barVO = new BarVO();barVO.setFail(taskStatus.versionConflicts());barVO.setSuccess(taskStatus.updated());barVO.setTotal(taskStatus.total());String percent = MathUtil.getPercent(barVO.getFail() + barVO.getSuccess(), barVO.getTotal());barVO.setRage(percent);barVO.setTaskId(taskId);return barVO;
}

请求结果展示

{"code": 200,"msg": "操作成功","result": {"timestamp": null,"total": 94759,"success": 79642,"fail": 5658,"rage": "90.02%","taskId": "H9tGBF8FS-il0WyDNnhtSA:44316655"}
}

这篇关于ElasticSearch新增IK扩展词后,让历史数据生效方法的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/162994

相关文章

golang中reflect包的常用方法

《golang中reflect包的常用方法》Go反射reflect包提供类型和值方法,用于获取类型信息、访问字段、调用方法等,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值... 目录reflect包方法总结类型 (Type) 方法值 (Value) 方法reflect包方法总结

C# 比较两个list 之间元素差异的常用方法

《C#比较两个list之间元素差异的常用方法》:本文主要介绍C#比较两个list之间元素差异,本文通过实例代码给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友参考下吧... 目录1. 使用Except方法2. 使用Except的逆操作3. 使用LINQ的Join,GroupJoin

MySQL查询JSON数组字段包含特定字符串的方法

《MySQL查询JSON数组字段包含特定字符串的方法》在MySQL数据库中,当某个字段存储的是JSON数组,需要查询数组中包含特定字符串的记录时传统的LIKE语句无法直接使用,下面小编就为大家介绍两种... 目录问题背景解决方案对比1. 精确匹配方案(推荐)2. 模糊匹配方案参数化查询示例使用场景建议性能优

关于集合与数组转换实现方法

《关于集合与数组转换实现方法》:本文主要介绍关于集合与数组转换实现方法,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录1、Arrays.asList()1.1、方法作用1.2、内部实现1.3、修改元素的影响1.4、注意事项2、list.toArray()2.1、方

Python中注释使用方法举例详解

《Python中注释使用方法举例详解》在Python编程语言中注释是必不可少的一部分,它有助于提高代码的可读性和维护性,:本文主要介绍Python中注释使用方法的相关资料,需要的朋友可以参考下... 目录一、前言二、什么是注释?示例:三、单行注释语法:以 China编程# 开头,后面的内容为注释内容示例:示例:四

一文详解Git中分支本地和远程删除的方法

《一文详解Git中分支本地和远程删除的方法》在使用Git进行版本控制的过程中,我们会创建多个分支来进行不同功能的开发,这就容易涉及到如何正确地删除本地分支和远程分支,下面我们就来看看相关的实现方法吧... 目录技术背景实现步骤删除本地分支删除远程www.chinasem.cn分支同步删除信息到其他机器示例步骤

在Golang中实现定时任务的几种高效方法

《在Golang中实现定时任务的几种高效方法》本文将详细介绍在Golang中实现定时任务的几种高效方法,包括time包中的Ticker和Timer、第三方库cron的使用,以及基于channel和go... 目录背景介绍目的和范围预期读者文档结构概述术语表核心概念与联系故事引入核心概念解释核心概念之间的关系

在Linux终端中统计非二进制文件行数的实现方法

《在Linux终端中统计非二进制文件行数的实现方法》在Linux系统中,有时需要统计非二进制文件(如CSV、TXT文件)的行数,而不希望手动打开文件进行查看,例如,在处理大型日志文件、数据文件时,了解... 目录在linux终端中统计非二进制文件的行数技术背景实现步骤1. 使用wc命令2. 使用grep命令

Python中Tensorflow无法调用GPU问题的解决方法

《Python中Tensorflow无法调用GPU问题的解决方法》文章详解如何解决TensorFlow在Windows无法识别GPU的问题,需降级至2.10版本,安装匹配CUDA11.2和cuDNN... 当用以下代码查看GPU数量时,gpuspython返回的是一个空列表,说明tensorflow没有找到

XML重复查询一条Sql语句的解决方法

《XML重复查询一条Sql语句的解决方法》文章分析了XML重复查询与日志失效问题,指出因DTO缺少@Data注解导致日志无法格式化、空指针风险及参数穿透,进而引发性能灾难,解决方案为在Controll... 目录一、核心问题:从SQL重复执行到日志失效二、根因剖析:DTO断裂引发的级联故障三、解决方案:修复