Azkaban安装与初步使用

2024-01-13 06:08
文章标签 安装 使用 初步 azkaban

本文主要是介绍Azkaban安装与初步使用,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

Azkaban安装与使用

  • 1 引言
    • 1.1 目的
    • 1.2 背景
    • 1.3 术语
    • 1.4 参考资料
    • 1.5 读者对象
  • 2 运行环境
    • 2.1 软件方面
  • 3 系统环境安装
  • 4 软件安装和配置
    • 4.1 下载代码,构建资源
    • 4.2 启动和停止服务
    • 4.3 通过web打开Azkaban可视化界面
    • 4.4 功能验证
  • 5 常见问题处理
    • 5.1 构建时报错

1 引言

1.1 目的

  1. 通过Azkaban的批量工作量任务调度器调用kettle
  2. 调用linux命令
  3. 调用java程序
  4. 调用shell脚本

1.2 背景

    Azkaban是一个分布式工作流管理器,由LinkedIn实现。类似于JavaEE中的JBPM和Activiti工作流框架.。常见的任务调度框架有Apache Oozie、LinkedIn Azkaban、Apache Airflow、Alibaba Zeus,由于Azkaban具有轻量可插拔、友好的WebUI、SLA告警、完善的权限控制、易于二次开发等优点,也得到了广泛应用。

1.3 术语

表格 1 3:术语表

术语说明
FLOW工作流程
JOB作业

1.4 参考资料

Azkaban官网网站:https://azkaban.github.io/

1.5 读者对象

    开发人员、运维人员、大数据工程师

2 运行环境

2.1 软件方面

这里我以我自己本地的环境作为例子,仅供参考

序号软件名称版本
1VMware Workstation 15 Pro15.0.0
2Azkaban3.9.1.0
3Gradle6.6.1
4JDK1.8.0_261
5Git2.17.1

3 系统环境安装

Ubuntu 18.04.5 LTS

4 软件安装和配置

4.1 下载代码,构建资源

  1. 克隆仓库
    git clone https://github.com/azkaban/azkaban.git
  2. 构建项目
    sudo ./gradlew build -x test
  3. 清理项目
    sudo ./gradlew clean

4.2 启动和停止服务

进入Azkaban根目录后
cd /azkaban/azkaban-solo-server/build/install/azkaban-solo-server/
执行 sudo ./bin/start-solo.sh 启动solo-server服务
执行 sudo./bin/shutdown-solo.sh,停止solo-server服务

4.3 通过web打开Azkaban可视化界面

  在浏览器中输入http://localhost:8081/,由于我将Azkaban安装在了虚拟机上,所以此处我使用的是http://192.168.255.131:8081/,默认的账号名为azkaban,密码为azkaban。
登录页
在这里插入图片描述

4.4 功能验证

1. 创建一个名为flow20.project的文件。添加Azkaban版本,表明这是一个Azkaban 2.0项目
azkaban-flow-version: 2.0
2. 创建另一个名为basic.flow的文件。添加名为nodes的部分,其中将包含您想要运行的所有作业。
nodes:

  • name: jobC
    type: noop
    # jobC depends on jobA and jobB
    dependsOn:

    • jobA
    • jobB
  • name: jobA
    type: command
    config:
    command: echo “This is an echoed text.”

  • name: jobB
    type: command
    config:
    command: pwd
    3. 将两个文件压缩为zip文件,直接压缩即可,不需要在外层创建文件夹,并命名为Archive.zip
    4. 在project菜单下创建一个project,输入Name和Description,如official_demo和官方样例
    5. 创建完毕后,点击upload菜单,将第三步压缩的Archive.zip进行上传
    在这里插入图片描述
    6. 点击Execute Flow,会弹出调度视图,再次点击Execute即运行成功
    在这里插入图片描述
    7. 查看调度日志
    在这里插入图片描述

5 常见问题处理

5.1 构建时报错

Task :azkaban-exec-server:compileTestJava FAILED
/home/caijx/download/azkaban/azkaban-exec-server/src/test/java/azkaban/dag/StatusChangeRecorder.java:24: 错误: 程序包javafx.util不存在
import javafx.util.Pair;
^
/home/caijx/download/azkaban/azkaban-exec-server/src/test/java/azkaban/dag/StatusChangeRecorder.java:31: 错误: 找不到符号
private final List<Pair<String, Status>> sequence = new ArrayList<>();
^
符号: 类 Pair
位置: 类 StatusChangeRecorder
/home/caijx/download/azkaban/azkaban-exec-server/src/test/java/azkaban/dag/StatusChangeRecorder.java:41: 错误: 找不到符号
void verifySequence(final List<Pair<String, Status>> expectedSequence) {
^
符号: 类 Pair
位置: 类 StatusChangeRecorder
/home/caijx/download/azkaban/azkaban-exec-server/src/test/java/azkaban/dag/DagServiceTest.java:32: 错误: 程序包javafx.util不存在
import javafx.util.Pair;
^
/home/caijx/download/azkaban/azkaban-exec-server/src/test/java/azkaban/dag/DagServiceTest.java:56: 错误: 找不到符号
private final List<Pair<String, Status>> expectedSequence = new ArrayList<>();
^
解决办法:构建时使用sudo ./gradlew build -x test,最根本的原因为我所使用的环境安装的为OpenJDK,只包含最精简的JDK,故我又重新安装了JDK 1.8.0_261。安装完毕后使用sudo ./gradlew build依旧构建不通过。百思不得其解, 但不执行测试代码可以通过。有兴趣的小伙伴可以自行研究下。

这篇关于Azkaban安装与初步使用的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/600477

相关文章

使用SpringBoot+InfluxDB实现高效数据存储与查询

《使用SpringBoot+InfluxDB实现高效数据存储与查询》InfluxDB是一个开源的时间序列数据库,特别适合处理带有时间戳的监控数据、指标数据等,下面详细介绍如何在SpringBoot项目... 目录1、项目介绍2、 InfluxDB 介绍3、Spring Boot 配置 InfluxDB4、I

使用Java读取本地文件并转换为MultipartFile对象的方法

《使用Java读取本地文件并转换为MultipartFile对象的方法》在许多JavaWeb应用中,我们经常会遇到将本地文件上传至服务器或其他系统的需求,在这种场景下,MultipartFile对象非... 目录1. 基本需求2. 自定义 MultipartFile 类3. 实现代码4. 代码解析5. 自定

使用Python实现无损放大图片功能

《使用Python实现无损放大图片功能》本文介绍了如何使用Python的Pillow库进行无损图片放大,区分了JPEG和PNG格式在放大过程中的特点,并给出了示例代码,JPEG格式可能受压缩影响,需先... 目录一、什么是无损放大?二、实现方法步骤1:读取图片步骤2:无损放大图片步骤3:保存图片三、示php

使用Python实现一个简易计算器的新手指南

《使用Python实现一个简易计算器的新手指南》计算器是编程入门的经典项目,它涵盖了变量、输入输出、条件判断等核心编程概念,通过这个小项目,可以快速掌握Python的基础语法,并为后续更复杂的项目打下... 目录准备工作基础概念解析分步实现计算器第一步:获取用户输入第二步:实现基本运算第三步:显示计算结果进

python之uv使用详解

《python之uv使用详解》文章介绍uv在Ubuntu上用于Python项目管理,涵盖安装、初始化、依赖管理、运行调试及Docker应用,强调CI中使用--locked确保依赖一致性... 目录安装与更新standalonepip 安装创建php以及初始化项目依赖管理uv run直接在命令行运行pytho

C#使用Spire.XLS快速生成多表格Excel文件

《C#使用Spire.XLS快速生成多表格Excel文件》在日常开发中,我们经常需要将业务数据导出为结构清晰的Excel文件,本文将手把手教你使用Spire.XLS这个强大的.NET组件,只需几行C#... 目录一、Spire.XLS核心优势清单1.1 性能碾压:从3秒到0.5秒的质变1.2 批量操作的优雅

Kotlin 枚举类使用举例

《Kotlin枚举类使用举例》枚举类(EnumClasses)是Kotlin中用于定义固定集合值的特殊类,它表示一组命名的常量,每个枚举常量都是该类的单例实例,接下来通过本文给大家介绍Kotl... 目录一、编程枚举类核心概念二、基础语法与特性1. 基本定义2. 带参数的枚举3. 实现接口4. 内置属性三、

Java List 使用举例(从入门到精通)

《JavaList使用举例(从入门到精通)》本文系统讲解JavaList,涵盖基础概念、核心特性、常用实现(如ArrayList、LinkedList)及性能对比,介绍创建、操作、遍历方法,结合实... 目录一、List 基础概念1.1 什么是 List?1.2 List 的核心特性1.3 List 家族成

Go语言使用Gin处理路由参数和查询参数

《Go语言使用Gin处理路由参数和查询参数》在WebAPI开发中,处理路由参数(PathParameter)和查询参数(QueryParameter)是非常常见的需求,下面我们就来看看Go语言... 目录一、路由参数 vs 查询参数二、Gin 获取路由参数和查询参数三、示例代码四、运行与测试1. 测试编程路

Python使用python-pptx自动化操作和生成PPT

《Python使用python-pptx自动化操作和生成PPT》这篇文章主要为大家详细介绍了如何使用python-pptx库实现PPT自动化,并提供实用的代码示例和应用场景,感兴趣的小伙伴可以跟随小编... 目录使用python-pptx操作PPT文档安装python-pptx基础概念创建新的PPT文档查看