腾讯云大数据ES Serverless

2024-06-11 07:20
文章标签 数据 es 腾讯 serverless

本文主要是介绍腾讯云大数据ES Serverless,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

Elasticsearch:日志和搜索场景首选解决方案。

技术特点:分布式、全文搜索和数据分析引擎,可以对海量数据进行准实时存储、搜索和统计分析。

ES的技术栈一共包含四个组件: 

其中最核心的是Elasticsearch,可用于数据的存储与检索。

在数据采集层面,我们可以使用Beats组件,采集之后通过Logstash进行加工,然后存储到Elasticsearch中,最后我们可以在Kibana中进行数据的可视化与分析。除了开源属性外,ES也支持商业特性X-Pack,包含安全、机器学习等能力。

传统ES集群模式的挑战

首先是集群运维,对于ES,我们需要自行完成配置调优、重启跟升级,在流量突增时需要进行集群扩缩容以应对业务压力。而节点或者磁盘不均或者过载时,都会对集群的稳定性造成极大影响,故障的排查等繁琐、复杂。其次是数据接入。我们通过集群模式进行数据接入,需要自行搭建数据链路。配置Beats、Kafka、Logstash等组件。组件的部署、运维管理以及全链路的故障排查等,面临着极大的挑战,运维与管理成本高。最后是索引管理,索引的Setting、Mapping以及别名等配置需要有较多的经验支撑。同时随着业务的不断增长,分片数量的动态调优以及滚动、降冷、删除等,都需要我们自行介入。例如当流量突增时,我们需要调大分片数量以应对高并发的写入,避免出现写入拒绝。当流量下来时我们则可以适当的降低分片数量,避免元数据管理压力过大。

        而以上的调整,均需要我们自行处理。整体而言,传统ES集群模式下,学习成本、人力投入以及时间投入都比较高。

ES Serverless服务的设计理念与设计思路

        让算力像自来水一样按需使用,一直是各大云厂商最求的目标。

        在云计算的发展初期,侧重的是能够快速地平滑迁移上云,例如把IDC的资源换成云服务以及云硬盘。而现在客户的需求已经从上好云转变为用好云,即在释放运维与管理成本的同时,能够更加聚焦于业务,实现降本增效。ES Serverless服务在设计开发过程中,始终坚持以下几个目标:

 一是索引即服务、无集群的概念,可按需创建与使用索引。

二是按需使用、按量付费,即按照实际使用的计算与存储资源去按量计费。

三是不止索引,还是场景化的一站式服务,能针对每个场景提供相应的开箱即用的能力,提升整体的使用效率。

一站式日志分析体验

在使用时,用户仅需关注数据源以及检索分析等业务逻辑即可。中间的流量调度、链路调度以及资源调度全部由ES Serverless服务完成。不需要关注底层的数据链路、消息队列、集群运维以及索引配置等。平台端会提供端到端的一个SLA保障。

那除了支持原生的ES API写入方式之外,我们在控制台已经支持了云服务器CVM,容器服务TKE、EMR、云数据仓库TCHouse-C等云产品的一站式日志分析与采集,同时也支持通过Logstash、Flink以及Kafka等将数据投递到ES Serverless服务的索引中。

那从产品能力上来看,已经打通了云服务器CVM、容器服务TKE以及大数据产品。在索引管理方面,我们提供了配置管理、指标监控、用户管理及告警能力,可方便我们快速完成数据应用。而在检索分析能力方面,除了支持原生的Kibana能力之外,无需外链访问即可快速进行检索分析。

这篇关于腾讯云大数据ES Serverless的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1050506

相关文章

C#监听txt文档获取新数据方式

《C#监听txt文档获取新数据方式》文章介绍通过监听txt文件获取最新数据,并实现开机自启动、禁用窗口关闭按钮、阻止Ctrl+C中断及防止程序退出等功能,代码整合于主函数中,供参考学习... 目录前言一、监听txt文档增加数据二、其他功能1. 设置开机自启动2. 禁止控制台窗口关闭按钮3. 阻止Ctrl +

java如何实现高并发场景下三级缓存的数据一致性

《java如何实现高并发场景下三级缓存的数据一致性》这篇文章主要为大家详细介绍了java如何实现高并发场景下三级缓存的数据一致性,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 下面代码是一个使用Java和Redisson实现的三级缓存服务,主要功能包括:1.缓存结构:本地缓存:使

在MySQL中实现冷热数据分离的方法及使用场景底层原理解析

《在MySQL中实现冷热数据分离的方法及使用场景底层原理解析》MySQL冷热数据分离通过分表/分区策略、数据归档和索引优化,将频繁访问的热数据与冷数据分开存储,提升查询效率并降低存储成本,适用于高并发... 目录实现冷热数据分离1. 分表策略2. 使用分区表3. 数据归档与迁移在mysql中实现冷热数据分

C#解析JSON数据全攻略指南

《C#解析JSON数据全攻略指南》这篇文章主要为大家详细介绍了使用C#解析JSON数据全攻略指南,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 目录一、为什么jsON是C#开发必修课?二、四步搞定网络JSON数据1. 获取数据 - HttpClient最佳实践2. 动态解析 - 快速

SpringBoot整合(ES)ElasticSearch7.8实践

《SpringBoot整合(ES)ElasticSearch7.8实践》本文详细介绍了SpringBoot整合ElasticSearch7.8的教程,涵盖依赖添加、客户端初始化、索引创建与获取、批量插... 目录SpringBoot整合ElasticSearch7.8添加依赖初始化创建SpringBoot项

MyBatis-Plus通用中等、大量数据分批查询和处理方法

《MyBatis-Plus通用中等、大量数据分批查询和处理方法》文章介绍MyBatis-Plus分页查询处理,通过函数式接口与Lambda表达式实现通用逻辑,方法抽象但功能强大,建议扩展分批处理及流式... 目录函数式接口获取分页数据接口数据处理接口通用逻辑工具类使用方法简单查询自定义查询方法总结函数式接口

SQL中如何添加数据(常见方法及示例)

《SQL中如何添加数据(常见方法及示例)》SQL全称为StructuredQueryLanguage,是一种用于管理关系数据库的标准编程语言,下面给大家介绍SQL中如何添加数据,感兴趣的朋友一起看看吧... 目录在mysql中,有多种方法可以添加数据。以下是一些常见的方法及其示例。1. 使用INSERT I

Python使用vllm处理多模态数据的预处理技巧

《Python使用vllm处理多模态数据的预处理技巧》本文深入探讨了在Python环境下使用vLLM处理多模态数据的预处理技巧,我们将从基础概念出发,详细讲解文本、图像、音频等多模态数据的预处理方法,... 目录1. 背景介绍1.1 目的和范围1.2 预期读者1.3 文档结构概述1.4 术语表1.4.1 核

MySQL 删除数据详解(最新整理)

《MySQL删除数据详解(最新整理)》:本文主要介绍MySQL删除数据的相关知识,本文通过实例代码给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友参考下吧... 目录一、前言二、mysql 中的三种删除方式1.DELETE语句✅ 基本语法: 示例:2.TRUNCATE语句✅ 基本语

MyBatisPlus如何优化千万级数据的CRUD

《MyBatisPlus如何优化千万级数据的CRUD》最近负责的一个项目,数据库表量级破千万,每次执行CRUD都像走钢丝,稍有不慎就引起数据库报警,本文就结合这个项目的实战经验,聊聊MyBatisPl... 目录背景一、MyBATis Plus 简介二、千万级数据的挑战三、优化 CRUD 的关键策略1. 查