ElasticSearch新增IK扩展词后,让历史数据生效方法

2023-10-08 05:28

本文主要是介绍ElasticSearch新增IK扩展词后,让历史数据生效方法,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

ElasticSearch新增IK扩展词后,让历史数据生效方法

一、前言

ES词库新增一个关键词、同义词、简繁体和停止词之后,发现只有新数据进入到索引才会生效,对于之前已经存储到索引的数据,还是按照之前的方式来做分词,这个问题应该如何解决呢?

我在网上发现有三种方式:

第一种就是将之前的索引的索引数据重新再刷一次,这种做法比较伤身体,不太推荐。

第二种方式就是采用reindex,这种方法一般用于解决索引结构调整比较大的问题,需要新建一个副本索引,把数据全部迁移到副本索引上,然后将原有索引删除,最后再将副本索引取一个别名,名字为原有索引的名称。

第三种方式就是采用update_by_query,这种方式可以不创建新索引,在已有索引基础上,将数据根据现有结构重新刷新一次,刷新之后,索引的历史数据就会采用词库新增词建立倒排索引了。

二、ES实现

2.1 参数简介

POST article/_update_by_query?conflicts=proceed&wait_for_completion=false&scroll_size=100
{"query": {"match_all": {}}
}

conflicts: 当更新遇到版本冲突是否继续执行,proceed为继续执行,abort为停止执行

wait_for_completion: 发送请求后之后等待返回结果,如果设置为false,ES将会开启一个后台任务,并且返回一个任务编号;如何设置为true,发送请求之后将会一直等待任务执行完毕才会返回结果,如果数据量比较大,不建议设置为true,因为容易出现请求超时502 Bad Request的情况。

scroll_size: 任务每次批量执行多少条数据,默认设置为1000条,如果一条数据执行时间比较长,可以考虑设置为100。

query: 此处的query你可以任意的发挥你的想象,这个就类似与数据库中的update table set column = value where field = condition中的where子句一样,可以过滤非必要更新数据并较少刷新时间。

2.2 获取任务执行详情

get _tasks/H9tGBF8FS-il0WyDNnhtSA:44192641

返回结果

{"completed": false,"task": {"node": "H9tGBF8FS-il0WyDNnhtSA","id": 44283452,"type": "transport","action": "indices:data/write/update/byquery","status": {"total": 94759,"updated": 33199,"created": 0,"deleted": 0,"batches": 333,"version_conflicts": 1,"noops": 0,"retries": {"bulk": 0,"search": 0},"throttled_millis": 0,"requests_per_second": -1,"throttled_until_millis": 0},"description": "update-by-query [article]","start_time_in_millis": 1696666800258,"running_time_in_nanos": 524996978138,"cancellable": true,"cancelled": false,"headers": {}}
}

2.3 获取ES任务列表

get _tasks?detailed=true&actions=*byquery&pretty

2.4 取消任务

POST _tasks/H9tGBF8FS-il0WyDNnhtSA:44161765/_cancel

2.5 进度条

如果你认为执行时间太长了,可以考虑做个进度条给在界面上展示,毕竟没有人会想点击刷新之后世界进入茫然无知的状况。下面是进度条的简短代码。

@Override
public BarVO getBar(String taskId) {if (taskId == null || !taskId.contains(":")){throw new RuntimeException("任务编号不合法");}// 1. 查询进度条GetTasksResponse tasksResponse = null;try {tasksResponse = elasticsearchClient.tasks().get(taskQueryBuilder -> taskQueryBuilder.taskId(taskId));} catch (IOException e) {throw new RuntimeException(e);}TaskStatus taskStatus = tasksResponse.task().status();BarVO barVO = new BarVO();barVO.setFail(taskStatus.versionConflicts());barVO.setSuccess(taskStatus.updated());barVO.setTotal(taskStatus.total());String percent = MathUtil.getPercent(barVO.getFail() + barVO.getSuccess(), barVO.getTotal());barVO.setRage(percent);barVO.setTaskId(taskId);return barVO;
}

请求结果展示

{"code": 200,"msg": "操作成功","result": {"timestamp": null,"total": 94759,"success": 79642,"fail": 5658,"rage": "90.02%","taskId": "H9tGBF8FS-il0WyDNnhtSA:44316655"}
}

这篇关于ElasticSearch新增IK扩展词后,让历史数据生效方法的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/162994

相关文章

Java中流式并行操作parallelStream的原理和使用方法

《Java中流式并行操作parallelStream的原理和使用方法》本文详细介绍了Java中的并行流(parallelStream)的原理、正确使用方法以及在实际业务中的应用案例,并指出在使用并行流... 目录Java中流式并行操作parallelStream0. 问题的产生1. 什么是parallelS

MySQL数据库双机热备的配置方法详解

《MySQL数据库双机热备的配置方法详解》在企业级应用中,数据库的高可用性和数据的安全性是至关重要的,MySQL作为最流行的开源关系型数据库管理系统之一,提供了多种方式来实现高可用性,其中双机热备(M... 目录1. 环境准备1.1 安装mysql1.2 配置MySQL1.2.1 主服务器配置1.2.2 从

Python版本信息获取方法详解与实战

《Python版本信息获取方法详解与实战》在Python开发中,获取Python版本号是调试、兼容性检查和版本控制的重要基础操作,本文详细介绍了如何使用sys和platform模块获取Python的主... 目录1. python版本号获取基础2. 使用sys模块获取版本信息2.1 sys模块概述2.1.1

Python实现字典转字符串的五种方法

《Python实现字典转字符串的五种方法》本文介绍了在Python中如何将字典数据结构转换为字符串格式的多种方法,首先可以通过内置的str()函数进行简单转换;其次利用ison.dumps()函数能够... 目录1、使用json模块的dumps方法:2、使用str方法:3、使用循环和字符串拼接:4、使用字符

Python版本与package版本兼容性检查方法总结

《Python版本与package版本兼容性检查方法总结》:本文主要介绍Python版本与package版本兼容性检查方法的相关资料,文中提供四种检查方法,分别是pip查询、conda管理、PyP... 目录引言为什么会出现兼容性问题方法一:用 pip 官方命令查询可用版本方法二:conda 管理包环境方法

Linux云服务器手动配置DNS的方法步骤

《Linux云服务器手动配置DNS的方法步骤》在Linux云服务器上手动配置DNS(域名系统)是确保服务器能够正常解析域名的重要步骤,以下是详细的配置方法,包括系统文件的修改和常见问题的解决方案,需要... 目录1. 为什么需要手动配置 DNS?2. 手动配置 DNS 的方法方法 1:修改 /etc/res

JavaScript对象转数组的三种方法实现

《JavaScript对象转数组的三种方法实现》本文介绍了在JavaScript中将对象转换为数组的三种实用方法,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友... 目录方法1:使用Object.keys()和Array.map()方法2:使用Object.entr

SpringBoot中ResponseEntity的使用方法举例详解

《SpringBoot中ResponseEntity的使用方法举例详解》ResponseEntity是Spring的一个用于表示HTTP响应的全功能对象,它可以包含响应的状态码、头信息及响应体内容,下... 目录一、ResponseEntity概述基本特点:二、ResponseEntity的基本用法1. 创

java中判断json key是否存在的几种方法

《java中判断jsonkey是否存在的几种方法》在使用Java处理JSON数据时,如何判断某一个key是否存在?本文就来介绍三种方法,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的... 目http://www.chinasem.cn录第一种方法是使用 jsONObject 的 has 方法

java中ssh2执行多条命令的四种方法

《java中ssh2执行多条命令的四种方法》本文主要介绍了java中ssh2执行多条命令的四种方法,包括分号分隔、管道分隔、EOF块、脚本调用,可确保环境配置生效,提升操作效率,具有一定的参考价值,感... 目录1 使用分号隔开2 使用管道符号隔开3 使用写EOF的方式4 使用脚本的方式大家平时有没有遇到自