SPARK connector 接口程序

2024-05-07 17:48
文章标签 接口 程序 connector spark

本文主要是介绍SPARK connector 接口程序,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

package com.szl.miner.api.connector;

import org.apache.hadoop.conf.Configuration;

/**
 * Created by liao on 15-5-4.
 */
public interface SparkConnector extends ClosableConnector {/**
     * 指定spark应用名.
     *
     * @param appName Application name.
     */
    public void setAppName(String appName);

    /**
     * 指定需要运行在哪个master上.
     *
     * @param master yarn resource manager url.
     */
    public void setMaster(String master);

    /**
     * 设置hadoop core-site.xml hdfs-site.xml.
     *
     * @param conf hadoop 配置.
     */
    public void setConfig(Configuration conf);

    /**
     * 设置运行app的源代码jar包
     *
     * @param resource Path to the main application resource.
     */
    public void setAppResource(String resource);

    /**
     * 设置app的主类完整类名.
     *
     * @param mainClass Application's main class.
     */
    public void setMainClass(String mainClass);

    /**
     * 设置spark driver程序内存大小
     *
     * @param driverMemory spark driver程序内存大小
     */
    public void setDriverMemory(String driverMemory);

    /**
     * 主程序所需要的参数.
     *
     * @param args Arguments to pass to the application's main class.
     */
    public void addAppArgs(String... args);

    /**
     * 添加app运行所需的jar包.
     *
     * @param jar Path to the jar file.
     */
    public void addJars(String jar);


    /**
     * 提交app job到yarn
     */
    public void submit();

    /**
     * 调用submit之后,等待任务结束
     * @throws ConnectorException
     */
    public void waitfor() throws ConnectorException;

    /**
     * 提交app job到yarn,并等待job结束
     *
     * @throws ConnectorException
     */
    public void run() throws ConnectorException;

    /**
     * 获取job状态
     *
     * @return job状态
     */
    public String getState();

    /**
     * 获取job 在yarn上的ApplicationId
     *
     * @return yarn上的ApplicationId
     */
    public String getApplicationId();

    /**
     * 获取job任务结束时的返回信息
     *
     * @return job任务结束时的返回信息
     */
    public String getErrorMessage();

    /**
     * 获取job结束后的状态
     *
     * @return job结束后的状态
     */
    public String getFinalState();
}

这篇关于SPARK connector 接口程序的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/967963

相关文章

MySQL中C接口的实现

《MySQL中C接口的实现》本节内容介绍使用C/C++访问数据库,包括对数据库的增删查改操作,主要是学习一些接口的调用,具有一定的参考价值,感兴趣的可以了解一下... 目录准备mysql库使用mysql库编译文件官方API文档对象的创建和关闭链接数据库下达sql指令select语句前言:本节内容介绍使用C/

java程序远程debug原理与配置全过程

《java程序远程debug原理与配置全过程》文章介绍了Java远程调试的JPDA体系,包含JVMTI监控JVM、JDWP传输调试命令、JDI提供调试接口,通过-Xdebug、-Xrunjdwp参数配... 目录背景组成模块间联系IBM对三个模块的详细介绍编程使用总结背景日常工作中,每个程序员都会遇到bu

uni-app小程序项目中实现前端图片压缩实现方式(附详细代码)

《uni-app小程序项目中实现前端图片压缩实现方式(附详细代码)》在uni-app开发中,文件上传和图片处理是很常见的需求,但也经常会遇到各种问题,下面:本文主要介绍uni-app小程序项目中实... 目录方式一:使用<canvas>实现图片压缩(推荐,兼容性好)示例代码(小程序平台):方式二:使用uni

基于Go语言开发一个 IP 归属地查询接口工具

《基于Go语言开发一个IP归属地查询接口工具》在日常开发中,IP地址归属地查询是一个常见需求,本文将带大家使用Go语言快速开发一个IP归属地查询接口服务,有需要的小伙伴可以了解下... 目录功能目标技术栈项目结构核心代码(main.go)使用方法扩展功能总结在日常开发中,IP 地址归属地查询是一个常见需求:

python获取指定名字的程序的文件路径的两种方法

《python获取指定名字的程序的文件路径的两种方法》本文主要介绍了python获取指定名字的程序的文件路径的两种方法,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要... 最近在做项目,需要用到给定一个程序名字就可以自动获取到这个程序在Windows系统下的绝对路径,以下

SpringBoot实现不同接口指定上传文件大小的具体步骤

《SpringBoot实现不同接口指定上传文件大小的具体步骤》:本文主要介绍在SpringBoot中通过自定义注解、AOP拦截和配置文件实现不同接口上传文件大小限制的方法,强调需设置全局阈值远大于... 目录一  springboot实现不同接口指定文件大小1.1 思路说明1.2 工程启动说明二 具体实施2

基于Python编写自动化邮件发送程序(进阶版)

《基于Python编写自动化邮件发送程序(进阶版)》在数字化时代,自动化邮件发送功能已成为企业和个人提升工作效率的重要工具,本文将使用Python编写一个简单的自动化邮件发送程序,希望对大家有所帮助... 目录理解SMTP协议基础配置开发环境构建邮件发送函数核心逻辑实现完整发送流程添加附件支持功能实现htm

C#控制台程序同步调用WebApi实现方式

《C#控制台程序同步调用WebApi实现方式》控制台程序作为Job时,需同步调用WebApi以确保获取返回结果后执行后续操作,否则会引发TaskCanceledException异常,同步处理可避免异... 目录同步调用WebApi方法Cls001类里面的写法总结控制台程序一般当作Job使用,有时候需要控制

基于Redisson实现分布式系统下的接口限流

《基于Redisson实现分布式系统下的接口限流》在高并发场景下,接口限流是保障系统稳定性的重要手段,本文将介绍利用Redisson结合Redis实现分布式环境下的接口限流,具有一定的参考价值,感兴趣... 目录分布式限流的核心挑战基于 Redisson 的分布式限流设计思路实现步骤引入依赖定义限流注解实现

SpringBoot实现RSA+AES自动接口解密的实战指南

《SpringBoot实现RSA+AES自动接口解密的实战指南》在当今数据泄露频发的网络环境中,接口安全已成为开发者不可忽视的核心议题,RSA+AES混合加密方案因其安全性高、性能优越而被广泛采用,本... 目录一、项目依赖与环境准备1.1 Maven依赖配置1.2 密钥生成与配置二、加密工具类实现2.1