DataWorks:依赖上一周期(跨周期依赖)解析

2023-10-29 19:51
文章标签 依赖 解析 周期 dataworks

本文主要是介绍DataWorks:依赖上一周期(跨周期依赖)解析,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

本文档均以修改xc_create节点的配置为案例。

DataWorks的三种跨周期依赖形式:

①一层子节点:
节点依赖关系:依赖当前节点的下游,例如 节点A存在下游节点B、C、D三个节点,依赖一层子节点是节点A依赖B、C、D三个节点的上一周期。
业务场景:本次 任务运行依赖上一周期下游节点对本节点的结果表(本节点输出表)进行清洗的最终结果(是否正常产出)。
②本节点:
节点依赖关系: 跨周期自依赖(依赖当前节点的上一周期。)
业务场景:本次任务运行依赖上一周期该任务的业务数据的产出情况。
③自定义:
节点依赖关系:手动 需要依赖的节点(多个节点用英文下的逗号分隔)​
业务场景:业务逻辑上需要依赖其他的业务数据正常产出,但是本任务中没有操作该业务数据。

依赖上一周期和依赖本周期的区别:

注意:在运维中心中查看节点依赖关系时,所有跨周期依赖的节点都会以虚线 的形式展示。也是任务实际的依赖,下线任务时候这部分的依赖关系也需要去掉,也是任务运行需要判断的条件之一。

70b421ce48c5c670c78842bda610a670f774d476

业务流程节点依赖关系

b0fd6191417a29154d672a76991d0a20fcf26607

运维中心展示如下:

e652783356ae9cbe27f04310063f6fc079fffc6f

xc_create节点代码及配置

节点sql解析:xc_create节点创建xc_1,xc_2两张表(或产出两张表的数据并将xc_1,xc_2作为本节点的输出。

fb3d8cf7bf64f0f6867b64422bf6c2b66e7487a4

xc_select节点代码及配置

节点sql解析:xc_select节点中查询xc_create节点中的表数据,通过自动解析功能解析将xc_create节点作为本节点依赖的上游。

847abf0693512b89fb21a442bdda8571b053cfd5

依赖上一周期:一层子节点

节点依赖: 依赖当前节点的下游,例如 节点A存在下游节点B、C、D三个节点,依赖一层子节点是节点A依赖B、C、D三个节点的上一周期。

业务场景:该任务运行依赖上一周期下游任务对本任务的结果表(本节点输出表)进行清洗的最终结果(下游任务运行成功,本节点本周期任务开始运行,否则反之)。


xc_create 选择依赖一层子节点

eb770f59064caf7cdd7bff44c1a440094c22ed22

运维中心任务依赖关系如图:

ecec26cb7c656224eb5e01c2445a6ec55096b5c0

依赖上一周期:本节点

节点依赖:本次任务运行依赖本节点上一周期任务运行情况,上一周期任务未完成将阻塞本周期任务运行。
业务场景:本次任务数据依赖上次数据清洗情况。

xc_create表配置如图(为便于观察,我将本节点设置为小时调度任务)

14b906955cf6b1458190566ac8b98331d049d907

运维中心的周期实例查看依赖情况,如图:

bcc7d6ec36301d3272b2d732f892c9287c3bec83

依赖上一周期:自定义

节点依赖:代码中没有用到1000374815节点的产出表但是业务上需要取依赖该1000374815节点的上一周期数据是否顺利产出从节点关系来说:xc_create节点需要依赖1000374815节点上一周期。

业务场景:业务逻辑上需要依赖1000374815任务的业务数据正常产出,但是本任务(xc_create)中没有操作该业务数据。


新的节点如下:节点id:1000374815

8f862fc4179eea65ac9a235bcabb359df0a84acf

xc_create节点依赖的上游选择自定义,选择1000374815节点。

e6cfcf8c3acd4232d432ff9a4712d10979862b35

运维中心周期任务依赖如图:

b47b5034599e1afc4b3d8ecd61bb4e5fc32ffba3

【实时场景一】:无法确定上游何时产出数据时,本节点可对上游做跨周期依赖。


【实时场景二】:我的需求是A任务每天每小时整点执行一次,B任务每天跑一次,但是希望A任务每天第一次跑成功后B任务就跑起, 这样可以怎么配置?

  A:A任务配置时,需要勾选“依赖上一周期” 选“本节点”,然后B任务的定时时间为0点,这样每天自动调度实例里B任务实例就只依赖A 任务0点实例即A任务第一个实例。


【实时场景三】:天任务依赖小时任务,不需要依赖今天的数据,只需要依赖昨天的小时数据(直接依赖今天的小时任务实例导致下 游天任务小时到第二天才完成)

  A:天任务调度配置界面选择“依赖上一周期”-“自定义”,将上游小时任务的节点id填进去后,重新提交发布。


有疑问可下方留言


这篇关于DataWorks:依赖上一周期(跨周期依赖)解析的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/302987

相关文章

Java中Redisson 的原理深度解析

《Java中Redisson的原理深度解析》Redisson是一个高性能的Redis客户端,它通过将Redis数据结构映射为Java对象和分布式对象,实现了在Java应用中方便地使用Redis,本文... 目录前言一、核心设计理念二、核心架构与通信层1. 基于 Netty 的异步非阻塞通信2. 编解码器三、

Java HashMap的底层实现原理深度解析

《JavaHashMap的底层实现原理深度解析》HashMap基于数组+链表+红黑树结构,通过哈希算法和扩容机制优化性能,负载因子与树化阈值平衡效率,是Java开发必备的高效数据结构,本文给大家介绍... 目录一、概述:HashMap的宏观结构二、核心数据结构解析1. 数组(桶数组)2. 链表节点(Node

Java 虚拟线程的创建与使用深度解析

《Java虚拟线程的创建与使用深度解析》虚拟线程是Java19中以预览特性形式引入,Java21起正式发布的轻量级线程,本文给大家介绍Java虚拟线程的创建与使用,感兴趣的朋友一起看看吧... 目录一、虚拟线程简介1.1 什么是虚拟线程?1.2 为什么需要虚拟线程?二、虚拟线程与平台线程对比代码对比示例:三

一文解析C#中的StringSplitOptions枚举

《一文解析C#中的StringSplitOptions枚举》StringSplitOptions是C#中的一个枚举类型,用于控制string.Split()方法分割字符串时的行为,核心作用是处理分割后... 目录C#的StringSplitOptions枚举1.StringSplitOptions枚举的常用

Python函数作用域与闭包举例深度解析

《Python函数作用域与闭包举例深度解析》Python函数的作用域规则和闭包是编程中的关键概念,它们决定了变量的访问和生命周期,:本文主要介绍Python函数作用域与闭包的相关资料,文中通过代码... 目录1. 基础作用域访问示例1:访问全局变量示例2:访问外层函数变量2. 闭包基础示例3:简单闭包示例4

MyBatis延迟加载与多级缓存全解析

《MyBatis延迟加载与多级缓存全解析》文章介绍MyBatis的延迟加载与多级缓存机制,延迟加载按需加载关联数据提升性能,一级缓存会话级默认开启,二级缓存工厂级支持跨会话共享,增删改操作会清空对应缓... 目录MyBATis延迟加载策略一对多示例一对多示例MyBatis框架的缓存一级缓存二级缓存MyBat

前端缓存策略的自解方案全解析

《前端缓存策略的自解方案全解析》缓存从来都是前端的一个痛点,很多前端搞不清楚缓存到底是何物,:本文主要介绍前端缓存的自解方案,文中通过代码介绍的非常详细,需要的朋友可以参考下... 目录一、为什么“清缓存”成了技术圈的梗二、先给缓存“把个脉”:浏览器到底缓存了谁?三、设计思路:把“发版”做成“自愈”四、代码

Java集合之Iterator迭代器实现代码解析

《Java集合之Iterator迭代器实现代码解析》迭代器Iterator是Java集合框架中的一个核心接口,位于java.util包下,它定义了一种标准的元素访问机制,为各种集合类型提供了一种统一的... 目录一、什么是Iterator二、Iterator的核心方法三、基本使用示例四、Iterator的工

Java JDK Validation 注解解析与使用方法验证

《JavaJDKValidation注解解析与使用方法验证》JakartaValidation提供了一种声明式、标准化的方式来验证Java对象,与框架无关,可以方便地集成到各种Java应用中,... 目录核心概念1. 主要注解基本约束注解其他常用注解2. 核心接口使用方法1. 基本使用添加依赖 (Maven

python依赖管理工具UV的安装和使用教程

《python依赖管理工具UV的安装和使用教程》UV是一个用Rust编写的Python包安装和依赖管理工具,比传统工具(如pip)有着更快、更高效的体验,:本文主要介绍python依赖管理工具UV... 目录前言一、命令安装uv二、手动编译安装2.1在archlinux安装uv的依赖工具2.2从github