流数据存储之Elasticsearch添加发送器常见问题

2024-02-25 08:48

本文主要是介绍流数据存储之Elasticsearch添加发送器常见问题,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

作者:lly

背景

近期很多小伙伴在使用流数据对接Elasticsearch遇到了问题,今天就来分享一下在使用Elasticsearch添加发送器可能遇到的问题。
对于Elasticsearch的搭建和iServer使用基础教程,可以参考往期文章:
1.ElasticSearch集群部署
2.流数据存储之Elasticsearch

常见问题

1.Elasticsearch添加发送器各参数如何填写,如下图:

在这里插入图片描述
其中队列名即ES中的索引名即"_index",目录名为文档名即"_type"(ES从6.x开始_type不再起作用,所以写入时_type值都为_doc,低版本则为设置的目录名);这些参数如果没有提前在集群中创建,iServer会根据所填参数自动进行创建。

2.使用Elasticsearch添加发送器入库数据时,报错ES only supports latitude and longitude projection data,如下图

在这里插入图片描述
这个错误是由于ElasticSearch中存储地理坐标数据需要使用geo-point类型,换句话说目前只支持经纬度坐标系的点;出现这个问题首先去检查我们数据接收器的元数据里,要素的数据类型是否为POINT,如下图:
在这里插入图片描述
其次经纬度字段命名必须为大写的X,Y如下图:
在这里插入图片描述

3.使用Elasticsearch添加发送器入库数据时,报错Connection error (check network and/or proxy settings)- all nodes failed; tried,如下图:

在这里插入图片描述
出现这个错误一般是由于Elasticsearch配置导致无法连接上集群,可在elasticsearch.yml中增加以下配置

node.name: elasticsearch
network.host: 0.0.0.0
http.port: 9200
cluster.initial_master_nodes: ["elasticsearch"]
http.cors.enabled: true
http.cors.allow-origin: "*"
4.查看iServer支持的ES版本,在iServer的根目录\webapps\iserver\WEB-INF\lib下,可以查看iServer当前所用的ES包版本,ES版本最低兼容需小于此版本,查看最低兼容版本可启动集群后,访问9200端口查看集群概览,如下图:

在这里插入图片描述
在这里插入图片描述

5.相同模型写入ES单节点成功,写入ES集群失败,并且Spark抛出以下错误

在这里插入图片描述
查看ES日志报错low disk
在这里插入图片描述
这是由于磁盘空间到达85%时,es会将节点上面的索引标为只读,导致不能写入数据,可以释放空间,或者关闭阀值设置

cluster.routing.allocation.disk.threshold_enabled: false

这篇关于流数据存储之Elasticsearch添加发送器常见问题的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/744976

相关文章

Linux下利用select实现串口数据读取过程

《Linux下利用select实现串口数据读取过程》文章介绍Linux中使用select、poll或epoll实现串口数据读取,通过I/O多路复用机制在数据到达时触发读取,避免持续轮询,示例代码展示设... 目录示例代码(使用select实现)代码解释总结在 linux 系统里,我们可以借助 select、

MyBatis/MyBatis-Plus同事务循环调用存储过程获取主键重复问题分析及解决

《MyBatis/MyBatis-Plus同事务循环调用存储过程获取主键重复问题分析及解决》MyBatis默认开启一级缓存,同一事务中循环调用查询方法时会重复使用缓存数据,导致获取的序列主键值均为1,... 目录问题原因解决办法如果是存储过程总结问题myBATis有如下代码获取序列作为主键IdMappe

C#使用iText获取PDF的trailer数据的代码示例

《C#使用iText获取PDF的trailer数据的代码示例》开发程序debug的时候,看到了PDF有个trailer数据,挺有意思,于是考虑用代码把它读出来,那么就用到我们常用的iText框架了,所... 目录引言iText 核心概念C# 代码示例步骤 1: 确保已安装 iText步骤 2: C# 代码程

Pandas处理缺失数据的方式汇总

《Pandas处理缺失数据的方式汇总》许多教程中的数据与现实世界中的数据有很大不同,现实世界中的数据很少是干净且同质的,本文我们将讨论处理缺失数据的一些常规注意事项,了解Pandas如何表示缺失数据,... 目录缺失数据约定的权衡Pandas 中的缺失数据None 作为哨兵值NaN:缺失的数值数据Panda

C++中处理文本数据char与string的终极对比指南

《C++中处理文本数据char与string的终极对比指南》在C++编程中char和string是两种用于处理字符数据的类型,但它们在使用方式和功能上有显著的不同,:本文主要介绍C++中处理文本数... 目录1. 基本定义与本质2. 内存管理3. 操作与功能4. 性能特点5. 使用场景6. 相互转换核心区别

k8s搭建nfs共享存储实践

《k8s搭建nfs共享存储实践》本文介绍NFS服务端搭建与客户端配置,涵盖安装工具、目录设置及服务启动,随后讲解K8S中NFS动态存储部署,包括创建命名空间、ServiceAccount、RBAC权限... 目录1. NFS搭建1.1 部署NFS服务端1.1.1 下载nfs-utils和rpcbind1.1

Java 字符串操作之contains 和 substring 方法最佳实践与常见问题

《Java字符串操作之contains和substring方法最佳实践与常见问题》本文给大家详细介绍Java字符串操作之contains和substring方法最佳实践与常见问题,本文结合实例... 目录一、contains 方法详解1. 方法定义与语法2. 底层实现原理3. 使用示例4. 注意事项二、su

Redis高性能Key-Value存储与缓存利器常见解决方案

《Redis高性能Key-Value存储与缓存利器常见解决方案》Redis是高性能内存Key-Value存储系统,支持丰富数据类型与持久化方案(RDB/AOF),本文给大家介绍Redis高性能Key-... 目录Redis:高性能Key-Value存储与缓存利器什么是Redis?为什么选择Redis?Red

python库pydantic数据验证和设置管理库的用途

《python库pydantic数据验证和设置管理库的用途》pydantic是一个用于数据验证和设置管理的Python库,它主要利用Python类型注解来定义数据模型的结构和验证规则,本文给大家介绍p... 目录主要特点和用途:Field数值验证参数总结pydantic 是一个让你能够 confidentl

JAVA实现亿级千万级数据顺序导出的示例代码

《JAVA实现亿级千万级数据顺序导出的示例代码》本文主要介绍了JAVA实现亿级千万级数据顺序导出的示例代码,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面... 前提:主要考虑控制内存占用空间,避免出现同时导出,导致主程序OOM问题。实现思路:A.启用线程池