PiflowX组件-FileWrite

2024-01-29 05:36
文章标签 组件 piflowx filewrite

本文主要是介绍PiflowX组件-FileWrite,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

FileWrite组件

组件说明

往文件系统写入。

计算引擎

flink

组件分组

file

端口

Inport:默认端口

outport:默认端口

组件属性

名称展示名称默认值允许值是否必填描述例子
pathpath“”文件路径。hdfs://server1:8020/flink/test/text.txt
formatformat“”Set(“json”, “csv”, “avro”, “parquet”, “orc”, “raw”, “debezium-json”, “canal-json”)文件系统连接器支持format。json
tableDefinitionTableDefinition“”Flink table定义。
propertiesPROPERTIES“”连接器其他配置。

FileWrite示例配置


{"flow": {"name": "file write","executorMemory": "1g","executorNumber": "1","uuid": "bf651f2e3f9340d29bfb737a0808bc31","paths": [{"inport": "","from": "DataGen","to": "FileWrite","outport": ""}],"engineType": "flink","stops": [{"name": "DataGen","bundle": "cn.piflow.bundle.flink.common.DataGen","uuid": "878a23d54e754efd914c71e4a6536b31","properties": {"schema": [{"filedName": "id","end": 10000,"kind": "sequence","start": 1,"filedType": "INT"},{"filedName": "name","filedType": "STRING","kind": "random","length": 15},{"min": 1,"filedName": "age","max": 100,"kind": "random","filedType": "INT"}],"count": "100","ratio": "10"},"customizedProperties": {}},{"name": "FileWrite","bundle": "cn.piflow.bundle.flink.file.FileWrite","uuid": "e137b3d1b82045249d717d88f7449f68","properties": {"path": "hdfs://hadoop01:8020/test2/","tableDefinition": {"tableBaseInfo": {"ifNotExists": true,"registerTableName": "hdfswrite"},"asSelectStatement": {},"likeStatement": {}},"format": "json","properties": {}},"customizedProperties": {}}]}
}
示例说明

本示例演示了通过DataGen生成测试数据,然后使用FileWrite组件将数据写入到hdfs中。

演示DEMO

PiflowX组件-FIleWrite

这篇关于PiflowX组件-FileWrite的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/655861

相关文章

Olingo分析和实践之OData框架核心组件初始化(关键步骤)

《Olingo分析和实践之OData框架核心组件初始化(关键步骤)》ODataSpringBootService通过初始化OData实例和服务元数据,构建框架核心能力与数据模型结构,实现序列化、URI... 目录概述第一步:OData实例创建1.1 OData.newInstance() 详细分析1.1.1

Spring组件实例化扩展点之InstantiationAwareBeanPostProcessor使用场景解析

《Spring组件实例化扩展点之InstantiationAwareBeanPostProcessor使用场景解析》InstantiationAwareBeanPostProcessor是Spring... 目录一、什么是InstantiationAwareBeanPostProcessor?二、核心方法解

C++ RabbitMq消息队列组件详解

《C++RabbitMq消息队列组件详解》:本文主要介绍C++RabbitMq消息队列组件的相关知识,本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友参考下吧... 目录1. RabbitMq介绍2. 安装RabbitMQ3. 安装 RabbitMQ 的 C++客户端库4. A

PyQt6中QMainWindow组件的使用详解

《PyQt6中QMainWindow组件的使用详解》QMainWindow是PyQt6中用于构建桌面应用程序的基础组件,本文主要介绍了PyQt6中QMainWindow组件的使用,具有一定的参考价值,... 目录1. QMainWindow 组php件概述2. 使用 QMainWindow3. QMainW

Vue3组件中getCurrentInstance()获取App实例,但是返回null的解决方案

《Vue3组件中getCurrentInstance()获取App实例,但是返回null的解决方案》:本文主要介绍Vue3组件中getCurrentInstance()获取App实例,但是返回nu... 目录vue3组件中getCurrentInstajavascriptnce()获取App实例,但是返回n

SpringQuartz定时任务核心组件JobDetail与Trigger配置

《SpringQuartz定时任务核心组件JobDetail与Trigger配置》Spring框架与Quartz调度器的集成提供了强大而灵活的定时任务解决方案,本文主要介绍了SpringQuartz定... 目录引言一、Spring Quartz基础架构1.1 核心组件概述1.2 Spring集成优势二、J

Vue中组件之间传值的六种方式(完整版)

《Vue中组件之间传值的六种方式(完整版)》组件是vue.js最强大的功能之一,而组件实例的作用域是相互独立的,这就意味着不同组件之间的数据无法相互引用,针对不同的使用场景,如何选择行之有效的通信方式... 目录前言方法一、props/$emit1.父组件向子组件传值2.子组件向父组件传值(通过事件形式)方

Spring组件初始化扩展点BeanPostProcessor的作用详解

《Spring组件初始化扩展点BeanPostProcessor的作用详解》本文通过实战案例和常见应用场景详细介绍了BeanPostProcessor的使用,并强调了其在Spring扩展中的重要性,感... 目录一、概述二、BeanPostProcessor的作用三、核心方法解析1、postProcessB

kotlin中的行为组件及高级用法

《kotlin中的行为组件及高级用法》Jetpack中的四大行为组件:WorkManager、DataBinding、Coroutines和Lifecycle,分别解决了后台任务调度、数据驱动UI、异... 目录WorkManager工作原理最佳实践Data Binding工作原理进阶技巧Coroutine

Vue项目的甘特图组件之dhtmlx-gantt使用教程和实现效果展示(推荐)

《Vue项目的甘特图组件之dhtmlx-gantt使用教程和实现效果展示(推荐)》文章介绍了如何使用dhtmlx-gantt组件来实现公司的甘特图需求,并提供了一个简单的Vue组件示例,文章还分享了一... 目录一、首先 npm 安装插件二、创建一个vue组件三、业务页面内 引用自定义组件:四、dhtmlx