hmf-tsdb 快速入门

2023-12-14 22:30
文章标签 入门 快速 tsdb hmf

本文主要是介绍hmf-tsdb 快速入门,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

环境要求

  1. jdk8 或以上版本
  2. mongodb3.4 或以上版本
  3. kafka2.2.0 或以上版本

上述软件 如果没有的话,请先安装。其中kafka 和 mongodb 均可以安装在别的机器上,也可以安装在本机。

下载

下载 hmf-tsdb 到本地,然后解压缩。

修改配置文件

打开hmf-tsdb的解压目录,用文本编辑器打开文件application.properties。找到下面两行:

mongo.connStr = mongodb://127.0.0.1:27017

mongo.dbName = tsdb2

然后根据自己安装的mongodb来修改mongo.connStr。mongo.dbName可以不改,程序运行后会自动根据mongo.dbName的值在mongodb中创建相应的数据库。

找到下面这几行:

#kafka consumer

kafka.consumer.bootstrap-servers = 127.0.0.1:9092

kafka.consumer.topic = tsdb-dps

kafka.consumer.group-id = tsdb-store

kafka.consumer.thread.size = 2

根据您安装的kafka服务器,对此处配置进行修改。假如你完全按照默认参数在本地部署的kafka,则无需修改。

运行

  1. 启动Mongodb,略
  2. 启动Kafka自带的zookeeper,略
  3. 启动Kafka,略
  4. 启动hmf-tsdb: 在hmf-tsdb目录,执行 start.cmd(windows)或者start.sh(linux),便可启动hmf-tsdb。然后打开浏览器,访问 http://localhost:8080/query.html , 如果浏览器能顺利打开下面的界面,说明我们运行成功。 查询界面

产生模拟数据

虽然我们已经运行了hmf-tsdb,但我们看不到任何有趣的效果。接下来,我们需要一个模拟器,向kafka推送数据。hmf-tsdb会主动从kafka服务器pull数据,并保存到mongodb中。hmf-tsdb通过内存缓存、磁盘快照存储、磁盘归档存储等各种策略,提供了单机50万 时序数据的写入能力,并可以实时查询各个测点的趋势图。

下载 dps-producer-demo(该模拟器默认每秒钟生成1万时序数据),修改配置文件:

  1. 指定kafka地址: bootstrap.servers = 127.0.0.1:9092

  2. 指定模拟的区域数量、每个区域设备数量、每个设备测点(在有些行业成为指标)量。

area.amount = 10

device.amount = 50

metric.amount = 20

默认情况下 区域数量 设备数量 测点数据=10000。当你不甚了解hmf-tsdb的时候,暂且不要修改这些参数。当测点总量增加的时候,对运行环境会有各种要求:内存、cpu、mongodb的配置等

然后 运行dps-producer-demo目录中的start.cmd或者start.sh。

查询时序数据

现在我们还不了解hmf-tsdb的表达式语法,你暂且直接在query.html的界面中输入:

current{area='area_1',device='device_1'} last[1h]

然后点击“查询”按钮。浏览器就能显示出 最近 1小时内,位置在 ‘area_1’,且设备编号为'device_1'的电流采样值的历史曲线。如下图所示: 查询

如何向hmf-tsdb写入你自己的时序数据

假如你熟悉kafka的这,向hmf-tsdb写入实时数据是一件非常简单的事情:

创建一个kafka producer,然后用producer向kafka服务器 推送时序数据即可。时序数据 以 json格式的字符串来表示,通常是这个样子的:

{"metric":"current","tags":{"area":"area_1","device":"device_1"},"time":1555137083702,"value":50.47901}

其中metric属性是测点名称,tags是其他一些查询和分析需要用到的标签,time是采样时间,value是采样值。tags的内容可以根据应用的需要定制各种不同的tag,而metric,time,value这三个属性是必须的,不可以改动属性名称。

接下来,启动你的hmf-tsdb,就能够从kafka接收并存储时序数据了。

备注:hmf-tsdb提供了直接写入时序数据的api,你的应用 可以不经kafka直接写入hmf-tsdb。但是,我强烈地不建议你这么做。

  1. 因为这种强耦合的架构和部署,会给后来的架构调整或者运维带来诸多不便。假如:你运行hmf-tsdb的服务器磁盘不够 ,需要停机增加磁盘,那么直接写入的这种架构就会在hmf-tsdb停机期间丢失一部分数据。但假如你是经过Kafka写入hmf-tsdb的话,暂停hmf-tsdb不会导致你时序数据的丢失。

  2. 经由kafka写入hmf-tsdb的架构下,kafka还能起到一个削峰填谷的作用,使系统运行更加平滑流畅,不会因为瞬时的使用高峰(比如突然很多人来查询历史数据),导致系统卡顿甚至数据丢失。

这篇关于hmf-tsdb 快速入门的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/494119

相关文章

从入门到精通详解Python虚拟环境完全指南

《从入门到精通详解Python虚拟环境完全指南》Python虚拟环境是一个独立的Python运行环境,它允许你为不同的项目创建隔离的Python环境,下面小编就来和大家详细介绍一下吧... 目录什么是python虚拟环境一、使用venv创建和管理虚拟环境1.1 创建虚拟环境1.2 激活虚拟环境1.3 验证虚

Python多线程实现大文件快速下载的代码实现

《Python多线程实现大文件快速下载的代码实现》在互联网时代,文件下载是日常操作之一,尤其是大文件,然而,网络条件不稳定或带宽有限时,下载速度会变得很慢,本文将介绍如何使用Python实现多线程下载... 目录引言一、多线程下载原理二、python实现多线程下载代码说明:三、实战案例四、注意事项五、总结引

C#使用Spire.XLS快速生成多表格Excel文件

《C#使用Spire.XLS快速生成多表格Excel文件》在日常开发中,我们经常需要将业务数据导出为结构清晰的Excel文件,本文将手把手教你使用Spire.XLS这个强大的.NET组件,只需几行C#... 目录一、Spire.XLS核心优势清单1.1 性能碾压:从3秒到0.5秒的质变1.2 批量操作的优雅

Java List 使用举例(从入门到精通)

《JavaList使用举例(从入门到精通)》本文系统讲解JavaList,涵盖基础概念、核心特性、常用实现(如ArrayList、LinkedList)及性能对比,介绍创建、操作、遍历方法,结合实... 目录一、List 基础概念1.1 什么是 List?1.2 List 的核心特性1.3 List 家族成

Mybatis-Plus 3.5.12 分页拦截器消失的问题及快速解决方法

《Mybatis-Plus3.5.12分页拦截器消失的问题及快速解决方法》作为Java开发者,我们都爱用Mybatis-Plus简化CRUD操作,尤其是它的分页功能,几行代码就能搞定复杂的分页查询... 目录一、问题场景:分页拦截器突然 “失踪”二、问题根源:依赖拆分惹的祸三、解决办法:添加扩展依赖四、分页

c++日志库log4cplus快速入门小结

《c++日志库log4cplus快速入门小结》文章浏览阅读1.1w次,点赞9次,收藏44次。本文介绍Log4cplus,一种适用于C++的线程安全日志记录API,提供灵活的日志管理和配置控制。文章涵盖... 目录简介日志等级配置文件使用关于初始化使用示例总结参考资料简介log4j 用于Java,log4c

史上最全MybatisPlus从入门到精通

《史上最全MybatisPlus从入门到精通》MyBatis-Plus是MyBatis增强工具,简化开发并提升效率,支持自动映射表名/字段与实体类,提供条件构造器、多种查询方式(等值/范围/模糊/分页... 目录1.简介2.基础篇2.1.通用mapper接口操作2.2.通用service接口操作3.进阶篇3

Python自定义异常的全面指南(入门到实践)

《Python自定义异常的全面指南(入门到实践)》想象你正在开发一个银行系统,用户转账时余额不足,如果直接抛出ValueError,调用方很难区分是金额格式错误还是余额不足,这正是Python自定义异... 目录引言:为什么需要自定义异常一、异常基础:先搞懂python的异常体系1.1 异常是什么?1.2

Python实现Word转PDF全攻略(从入门到实战)

《Python实现Word转PDF全攻略(从入门到实战)》在数字化办公场景中,Word文档的跨平台兼容性始终是个难题,而PDF格式凭借所见即所得的特性,已成为文档分发和归档的标准格式,下面小编就来和大... 目录一、为什么需要python处理Word转PDF?二、主流转换方案对比三、五套实战方案详解方案1:

使用Redis快速实现共享Session登录的详细步骤

《使用Redis快速实现共享Session登录的详细步骤》在Web开发中,Session通常用于存储用户的会话信息,允许用户在多个页面之间保持登录状态,Redis是一个开源的高性能键值数据库,广泛用于... 目录前言实现原理:步骤:使用Redis实现共享Session登录1. 引入Redis依赖2. 配置R