腾讯云大数据ES Serverless

2024-06-11 07:20
文章标签 数据 es 腾讯 serverless

本文主要是介绍腾讯云大数据ES Serverless,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

Elasticsearch:日志和搜索场景首选解决方案。

技术特点:分布式、全文搜索和数据分析引擎,可以对海量数据进行准实时存储、搜索和统计分析。

ES的技术栈一共包含四个组件: 

其中最核心的是Elasticsearch,可用于数据的存储与检索。

在数据采集层面,我们可以使用Beats组件,采集之后通过Logstash进行加工,然后存储到Elasticsearch中,最后我们可以在Kibana中进行数据的可视化与分析。除了开源属性外,ES也支持商业特性X-Pack,包含安全、机器学习等能力。

传统ES集群模式的挑战

首先是集群运维,对于ES,我们需要自行完成配置调优、重启跟升级,在流量突增时需要进行集群扩缩容以应对业务压力。而节点或者磁盘不均或者过载时,都会对集群的稳定性造成极大影响,故障的排查等繁琐、复杂。其次是数据接入。我们通过集群模式进行数据接入,需要自行搭建数据链路。配置Beats、Kafka、Logstash等组件。组件的部署、运维管理以及全链路的故障排查等,面临着极大的挑战,运维与管理成本高。最后是索引管理,索引的Setting、Mapping以及别名等配置需要有较多的经验支撑。同时随着业务的不断增长,分片数量的动态调优以及滚动、降冷、删除等,都需要我们自行介入。例如当流量突增时,我们需要调大分片数量以应对高并发的写入,避免出现写入拒绝。当流量下来时我们则可以适当的降低分片数量,避免元数据管理压力过大。

        而以上的调整,均需要我们自行处理。整体而言,传统ES集群模式下,学习成本、人力投入以及时间投入都比较高。

ES Serverless服务的设计理念与设计思路

        让算力像自来水一样按需使用,一直是各大云厂商最求的目标。

        在云计算的发展初期,侧重的是能够快速地平滑迁移上云,例如把IDC的资源换成云服务以及云硬盘。而现在客户的需求已经从上好云转变为用好云,即在释放运维与管理成本的同时,能够更加聚焦于业务,实现降本增效。ES Serverless服务在设计开发过程中,始终坚持以下几个目标:

 一是索引即服务、无集群的概念,可按需创建与使用索引。

二是按需使用、按量付费,即按照实际使用的计算与存储资源去按量计费。

三是不止索引,还是场景化的一站式服务,能针对每个场景提供相应的开箱即用的能力,提升整体的使用效率。

一站式日志分析体验

在使用时,用户仅需关注数据源以及检索分析等业务逻辑即可。中间的流量调度、链路调度以及资源调度全部由ES Serverless服务完成。不需要关注底层的数据链路、消息队列、集群运维以及索引配置等。平台端会提供端到端的一个SLA保障。

那除了支持原生的ES API写入方式之外,我们在控制台已经支持了云服务器CVM,容器服务TKE、EMR、云数据仓库TCHouse-C等云产品的一站式日志分析与采集,同时也支持通过Logstash、Flink以及Kafka等将数据投递到ES Serverless服务的索引中。

那从产品能力上来看,已经打通了云服务器CVM、容器服务TKE以及大数据产品。在索引管理方面,我们提供了配置管理、指标监控、用户管理及告警能力,可方便我们快速完成数据应用。而在检索分析能力方面,除了支持原生的Kibana能力之外,无需外链访问即可快速进行检索分析。

这篇关于腾讯云大数据ES Serverless的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1050506

相关文章

python处理带有时区的日期和时间数据

《python处理带有时区的日期和时间数据》这篇文章主要为大家详细介绍了如何在Python中使用pytz库处理时区信息,包括获取当前UTC时间,转换为特定时区等,有需要的小伙伴可以参考一下... 目录时区基本信息python datetime使用timezonepandas处理时区数据知识延展时区基本信息

Qt实现网络数据解析的方法总结

《Qt实现网络数据解析的方法总结》在Qt中解析网络数据通常涉及接收原始字节流,并将其转换为有意义的应用层数据,这篇文章为大家介绍了详细步骤和示例,感兴趣的小伙伴可以了解下... 目录1. 网络数据接收2. 缓冲区管理(处理粘包/拆包)3. 常见数据格式解析3.1 jsON解析3.2 XML解析3.3 自定义

SpringMVC 通过ajax 前后端数据交互的实现方法

《SpringMVC通过ajax前后端数据交互的实现方法》:本文主要介绍SpringMVC通过ajax前后端数据交互的实现方法,本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价... 在前端的开发过程中,经常在html页面通过AJAX进行前后端数据的交互,SpringMVC的controll

Pandas统计每行数据中的空值的方法示例

《Pandas统计每行数据中的空值的方法示例》处理缺失数据(NaN值)是一个非常常见的问题,本文主要介绍了Pandas统计每行数据中的空值的方法示例,具有一定的参考价值,感兴趣的可以了解一下... 目录什么是空值?为什么要统计空值?准备工作创建示例数据统计每行空值数量进一步分析www.chinasem.cn处

如何使用 Python 读取 Excel 数据

《如何使用Python读取Excel数据》:本文主要介绍使用Python读取Excel数据的详细教程,通过pandas和openpyxl,你可以轻松读取Excel文件,并进行各种数据处理操... 目录使用 python 读取 Excel 数据的详细教程1. 安装必要的依赖2. 读取 Excel 文件3. 读

Spring 请求之传递 JSON 数据的操作方法

《Spring请求之传递JSON数据的操作方法》JSON就是一种数据格式,有自己的格式和语法,使用文本表示一个对象或数组的信息,因此JSON本质是字符串,主要负责在不同的语言中数据传递和交换,这... 目录jsON 概念JSON 语法JSON 的语法JSON 的两种结构JSON 字符串和 Java 对象互转

C++如何通过Qt反射机制实现数据类序列化

《C++如何通过Qt反射机制实现数据类序列化》在C++工程中经常需要使用数据类,并对数据类进行存储、打印、调试等操作,所以本文就来聊聊C++如何通过Qt反射机制实现数据类序列化吧... 目录设计预期设计思路代码实现使用方法在 C++ 工程中经常需要使用数据类,并对数据类进行存储、打印、调试等操作。由于数据类

SpringBoot使用GZIP压缩反回数据问题

《SpringBoot使用GZIP压缩反回数据问题》:本文主要介绍SpringBoot使用GZIP压缩反回数据问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录SpringBoot使用GZIP压缩反回数据1、初识gzip2、gzip是什么,可以干什么?3、Spr

SpringBoot集成Milvus实现数据增删改查功能

《SpringBoot集成Milvus实现数据增删改查功能》milvus支持的语言比较多,支持python,Java,Go,node等开发语言,本文主要介绍如何使用Java语言,采用springboo... 目录1、Milvus基本概念2、添加maven依赖3、配置yml文件4、创建MilvusClient

SpringValidation数据校验之约束注解与分组校验方式

《SpringValidation数据校验之约束注解与分组校验方式》本文将深入探讨SpringValidation的核心功能,帮助开发者掌握约束注解的使用技巧和分组校验的高级应用,从而构建更加健壮和可... 目录引言一、Spring Validation基础架构1.1 jsR-380标准与Spring整合1