关于H2O集群的部署方式

2023-10-09 15:30
文章标签 部署 集群 方式 h2o

本文主要是介绍关于H2O集群的部署方式,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

1、前期实践

2、集群部署实践

2.1 Centos环境下kubernetes的快速部署请参考博文:Yum安装Kubernetes(k8s);

2.2 k8s安装完成后,将H2O压缩包上传至centos相关文件夹下,进行解压缩;

2.3 编写flatfile进行集群广播,需在每个h2o节点上传flatfile.txt文件;

2.4  访问master节点的 http://ip:54321 ,查看集群状态(admin-cluster state)如下:

 3、结论


1、前期实践

根据官网指导的多播、fllatfile两种方式可以起多节点部署h2o框架,经实践,仅仅单纯的部署,只能找到本机自身的节点信息,同网络内的其他节点无法自动加入,形成集群(与nginx无关);

2、集群部署实践

官网还提示了Hadoop、K8S的分布式部署方式,本文采用K8S集群来辅助进行分布式部署,由于K8S本身有master、node的概念,节点的寻找及加入问题得到解决,然后再启动H2O服务;

2.1 Centos环境下kubernetes的快速部署请参考博文:Yum安装Kubernetes(k8s);

2.2 k8s安装完成后,将H2O压缩包上传至centos相关文件夹下,进行解压缩;

      最新H2O下载地址:官网下载

      上传至/home 文件夹下: rz  h2o.zip

      解压缩命令:unzip  h2o.zip

      切换文件目录: cd  h2o

2.3 编写flatfile进行集群广播,需在每个h3o节点上传flatfile.txt文件;

        内容如下,然后wq!保存:

        master:54321

        node1:54321

        node2:54321

        作业开始前,使用如下命令启动h2o,节点自动加入,形成集群;

         java  -Xmx4g  -jar  h2o.jar  -flatfile flatfile.txt  -name MyCluster

         -Xmx4g  :表示占用4g的内存空间

         -name  : 写明要建立的集群名称参数,此处是MyCluster

         master启动时:

         

         node1启动时,自动加入集群,此时集群中包含2个节点:

         

         node2启动时,自动加入集群,此时集群中包含3个节点:

         

 2.4  访问master节点的 http://ip:54321 ,查看集群状态(admin-cluster state)如下:

          

 3、结论

         使用k8s辅助进行分布式部署h2o自动机器学习服务框架,那么h2o服务的实际性能,是否即是K8S的性能测试,因为实际的资源调度是由K8S来进行统筹分发,那实际的性能优化,主要侧重在K8S方面?

这篇关于关于H2O集群的部署方式的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/173829

相关文章

SpringBoot中@Value注入静态变量方式

《SpringBoot中@Value注入静态变量方式》SpringBoot中静态变量无法直接用@Value注入,需通过setter方法,@Value(${})从属性文件获取值,@Value(#{})用... 目录项目场景解决方案注解说明1、@Value("${}")使用示例2、@Value("#{}"php

SpringBoot分段处理List集合多线程批量插入数据方式

《SpringBoot分段处理List集合多线程批量插入数据方式》文章介绍如何处理大数据量List批量插入数据库的优化方案:通过拆分List并分配独立线程处理,结合Spring线程池与异步方法提升效率... 目录项目场景解决方案1.实体类2.Mapper3.spring容器注入线程池bejsan对象4.创建

通过Docker容器部署Python环境的全流程

《通过Docker容器部署Python环境的全流程》在现代化开发流程中,Docker因其轻量化、环境隔离和跨平台一致性的特性,已成为部署Python应用的标准工具,本文将详细演示如何通过Docker容... 目录引言一、docker与python的协同优势二、核心步骤详解三、进阶配置技巧四、生产环境最佳实践

Nginx部署HTTP/3的实现步骤

《Nginx部署HTTP/3的实现步骤》本文介绍了在Nginx中部署HTTP/3的详细步骤,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学... 目录前提条件第一步:安装必要的依赖库第二步:获取并构建 BoringSSL第三步:获取 Nginx

HTTP 与 SpringBoot 参数提交与接收协议方式

《HTTP与SpringBoot参数提交与接收协议方式》HTTP参数提交方式包括URL查询、表单、JSON/XML、路径变量、头部、Cookie、GraphQL、WebSocket和SSE,依据... 目录HTTP 协议支持多种参数提交方式,主要取决于请求方法(Method)和内容类型(Content-Ty

redis-sentinel基础概念及部署流程

《redis-sentinel基础概念及部署流程》RedisSentinel是Redis的高可用解决方案,通过监控主从节点、自动故障转移、通知机制及配置提供,实现集群故障恢复与服务持续可用,核心组件包... 目录一. 引言二. 核心功能三. 核心组件四. 故障转移流程五. 服务部署六. sentinel部署

使用shardingsphere实现mysql数据库分片方式

《使用shardingsphere实现mysql数据库分片方式》本文介绍如何使用ShardingSphere-JDBC在SpringBoot中实现MySQL水平分库,涵盖分片策略、路由算法及零侵入配置... 目录一、ShardingSphere 简介1.1 对比1.2 核心概念1.3 Sharding-Sp

Spring创建Bean的八种主要方式详解

《Spring创建Bean的八种主要方式详解》Spring(尤其是SpringBoot)提供了多种方式来让容器创建和管理Bean,@Component、@Configuration+@Bean、@En... 目录引言一、Spring 创建 Bean 的 8 种主要方式1. @Component 及其衍生注解

Redis中哨兵机制和集群的区别及说明

《Redis中哨兵机制和集群的区别及说明》Redis哨兵通过主从复制实现高可用,适用于中小规模数据;集群采用分布式分片,支持动态扩展,适合大规模数据,哨兵管理简单但扩展性弱,集群性能更强但架构复杂,根... 目录一、架构设计与节点角色1. 哨兵机制(Sentinel)2. 集群(Cluster)二、数据分片

python中的显式声明类型参数使用方式

《python中的显式声明类型参数使用方式》文章探讨了Python3.10+版本中类型注解的使用,指出FastAPI官方示例强调显式声明参数类型,通过|操作符替代Union/Optional,可提升代... 目录背景python函数显式声明的类型汇总基本类型集合类型Optional and Union(py