flink 1.14.5 集群模式安装

2024-01-15 23:40
文章标签 集群 安装 模式 flink 1.14

本文主要是介绍flink 1.14.5 集群模式安装,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

前言

        选择 flink 1.14.5原因是,支持java1.8的最高版本了。

集群 三节点,我的hostname分别是 h01、h02、h03,安装路径是/opt/module/

将flink解压到自己想到的目录 

tar zxvf flink-1.14.5-bin-scala_2.11.tgz -C /opt/module/

创建连接,方便多个版本时的管理,无需多次配置环境变量(在另外两台机器上也建立连接)

cd  /opt/module/ ln -s flink-1.14.5/ flink# 我有多个flink版本,通过连接控制一个版本作为主版本

编辑 /etc/profile,三台机器均要配置 FLINK_HOME 

sudo vim /etc/profile

将以下内容添加进/etc/profile,HOME 路径不要抄作业!!!根据自己的来

# FLINK_HOME
export FLINK_HOME=/opt/module/flink
export PATH=$PATH:$FLINK_HOME/bin
export HADOOP_CLASSPATH=`hadoop classpath`

生效刷新/etc/profile

source /etc/profile

配置flink的conf文件

cd /opt/module/flink
vim ./conf/flink-conf.yaml

改./conf/flink-conf.yaml文件的以下几个内容,(我master是h01不要抄作业)

jobmanager为h01,设置两个插槽slot,并行度设置为2(slot、并行度看自己的需要)。

jobmanager.rpc.address: h01taskmanager.numberOfTaskSlots: 2parallelism.default: 2

:wq保存文件

改vim ./conf/masters文件。(我master是h01不要抄作业)

vim ./conf/masters

内容改为:

h01:8081

改vim ./conf/masters文件。

vim ./conf/workers

内容为:不要抄作业 h02、h03根据自己的来

h02
h03

然后scp分发flink文件夹

 scp -r /opt/module/flink liang@h02:/opt/modulescp -r /opt/module/flink liang@h03:/opt/module

启动集群模式

 ./bin/start-cluster.sh
# Starting cluster.
# Starting standalonesession daemon on host h01.
# Starting taskexecutor daemon on host h02.
# Starting taskexecutor daemon on host h03.

访问web ui http://h01:8081/ 网址为master的hostname+ip8081,不要抄作业

 至此 flink1.14 的独立集群模式配置完成。

这篇关于flink 1.14.5 集群模式安装的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/610583

相关文章

Win安装MySQL8全过程

《Win安装MySQL8全过程》:本文主要介绍Win安装MySQL8全过程,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录Win安装mysql81、下载MySQL2、解压文件3、新建文件夹data,用于保存数据库数据文件4、在mysql根目录下新建文件my.ini

最详细安装 PostgreSQL方法及常见问题解决

《最详细安装PostgreSQL方法及常见问题解决》:本文主要介绍最详细安装PostgreSQL方法及常见问题解决,介绍了在Windows系统上安装PostgreSQL及Linux系统上安装Po... 目录一、在 Windows 系统上安装 PostgreSQL1. 下载 PostgreSQL 安装包2.

Nginx location匹配模式与规则详解

《Nginxlocation匹配模式与规则详解》:本文主要介绍Nginxlocation匹配模式与规则,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录一、环境二、匹配模式1. 精准模式2. 前缀模式(不继续匹配正则)3. 前缀模式(继续匹配正则)4. 正则模式(大

Maven如何手动安装依赖到本地仓库

《Maven如何手动安装依赖到本地仓库》:本文主要介绍Maven如何手动安装依赖到本地仓库问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录一、下载依赖二、安装 JAR 文件到本地仓库三、验证安装四、在项目中使用该依赖1、注意事项2、额外提示总结一、下载依赖登

如何在Mac上安装并配置JDK环境变量详细步骤

《如何在Mac上安装并配置JDK环境变量详细步骤》:本文主要介绍如何在Mac上安装并配置JDK环境变量详细步骤,包括下载JDK、安装JDK、配置环境变量、验证JDK配置以及可选地设置PowerSh... 目录步骤 1:下载JDK步骤 2:安装JDK步骤 3:配置环境变量1. 编辑~/.zshrc(对于zsh

如何在pycharm安装torch包

《如何在pycharm安装torch包》:本文主要介绍如何在pycharm安装torch包方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录在pycharm安装torch包适http://www.chinasem.cn配于我电脑的指令为适用的torch包为总结在p

在PyCharm中安装PyTorch、torchvision和OpenCV详解

《在PyCharm中安装PyTorch、torchvision和OpenCV详解》:本文主要介绍在PyCharm中安装PyTorch、torchvision和OpenCV方式,具有很好的参考价值,... 目录PyCharm安装PyTorch、torchvision和OpenCV安装python安装PyTor

Python Transformer 库安装配置及使用方法

《PythonTransformer库安装配置及使用方法》HuggingFaceTransformers是自然语言处理(NLP)领域最流行的开源库之一,支持基于Transformer架构的预训练模... 目录python 中的 Transformer 库及使用方法一、库的概述二、安装与配置三、基础使用:Pi

如何解决mmcv无法安装或安装之后报错问题

《如何解决mmcv无法安装或安装之后报错问题》:本文主要介绍如何解决mmcv无法安装或安装之后报错问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录mmcv无法安装或安装之后报错问题1.当我们运行YOwww.chinasem.cnLO时遇到2.找到下图所示这里3.

Python 安装和配置flask, flask_cors的图文教程

《Python安装和配置flask,flask_cors的图文教程》:本文主要介绍Python安装和配置flask,flask_cors的图文教程,本文通过图文并茂的形式给大家介绍的非常详细,... 目录一.python安装:二,配置环境变量,三:检查Python安装和环境变量,四:安装flask和flas