SPARK connector 接口程序

2024-05-07 17:48
文章标签 接口 程序 connector spark

本文主要是介绍SPARK connector 接口程序,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

package com.szl.miner.api.connector;

import org.apache.hadoop.conf.Configuration;

/**
 * Created by liao on 15-5-4.
 */
public interface SparkConnector extends ClosableConnector {/**
     * 指定spark应用名.
     *
     * @param appName Application name.
     */
    public void setAppName(String appName);

    /**
     * 指定需要运行在哪个master上.
     *
     * @param master yarn resource manager url.
     */
    public void setMaster(String master);

    /**
     * 设置hadoop core-site.xml hdfs-site.xml.
     *
     * @param conf hadoop 配置.
     */
    public void setConfig(Configuration conf);

    /**
     * 设置运行app的源代码jar包
     *
     * @param resource Path to the main application resource.
     */
    public void setAppResource(String resource);

    /**
     * 设置app的主类完整类名.
     *
     * @param mainClass Application's main class.
     */
    public void setMainClass(String mainClass);

    /**
     * 设置spark driver程序内存大小
     *
     * @param driverMemory spark driver程序内存大小
     */
    public void setDriverMemory(String driverMemory);

    /**
     * 主程序所需要的参数.
     *
     * @param args Arguments to pass to the application's main class.
     */
    public void addAppArgs(String... args);

    /**
     * 添加app运行所需的jar包.
     *
     * @param jar Path to the jar file.
     */
    public void addJars(String jar);


    /**
     * 提交app job到yarn
     */
    public void submit();

    /**
     * 调用submit之后,等待任务结束
     * @throws ConnectorException
     */
    public void waitfor() throws ConnectorException;

    /**
     * 提交app job到yarn,并等待job结束
     *
     * @throws ConnectorException
     */
    public void run() throws ConnectorException;

    /**
     * 获取job状态
     *
     * @return job状态
     */
    public String getState();

    /**
     * 获取job 在yarn上的ApplicationId
     *
     * @return yarn上的ApplicationId
     */
    public String getApplicationId();

    /**
     * 获取job任务结束时的返回信息
     *
     * @return job任务结束时的返回信息
     */
    public String getErrorMessage();

    /**
     * 获取job结束后的状态
     *
     * @return job结束后的状态
     */
    public String getFinalState();
}

这篇关于SPARK connector 接口程序的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/967963

相关文章

MybatisPlus service接口功能介绍

《MybatisPlusservice接口功能介绍》:本文主要介绍MybatisPlusservice接口功能介绍,本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友... 目录Service接口基本用法进阶用法总结:Lambda方法Service接口基本用法MyBATisP

python编写朋克风格的天气查询程序

《python编写朋克风格的天气查询程序》这篇文章主要为大家详细介绍了一个基于Python的桌面应用程序,使用了tkinter库来创建图形用户界面并通过requests库调用Open-MeteoAPI... 目录工具介绍工具使用说明python脚本内容如何运行脚本工具介绍这个天气查询工具是一个基于 Pyt

Ubuntu设置程序开机自启动的操作步骤

《Ubuntu设置程序开机自启动的操作步骤》在部署程序到边缘端时,我们总希望可以通电即启动我们写好的程序,本篇博客用以记录如何在ubuntu开机执行某条命令或者某个可执行程序,需要的朋友可以参考下... 目录1、概述2、图形界面设置3、设置为Systemd服务1、概述测试环境:Ubuntu22.04 带图

Python程序打包exe,单文件和多文件方式

《Python程序打包exe,单文件和多文件方式》:本文主要介绍Python程序打包exe,单文件和多文件方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录python 脚本打成exe文件安装Pyinstaller准备一个ico图标打包方式一(适用于文件较少的程

Python程序的文件头部声明小结

《Python程序的文件头部声明小结》在Python文件的顶部声明编码通常是必须的,尤其是在处理非ASCII字符时,下面就来介绍一下两种头部文件声明,具有一定的参考价值,感兴趣的可以了解一下... 目录一、# coding=utf-8二、#!/usr/bin/env python三、运行Python程序四、

Java中的Closeable接口及常见问题

《Java中的Closeable接口及常见问题》Closeable是Java中的一个标记接口,用于表示可以被关闭的对象,它定义了一个标准的方法来释放对象占用的系统资源,下面给大家介绍Java中的Clo... 目录1. Closeable接口概述2. 主要用途3. 实现类4. 使用方法5. 实现自定义Clos

java对接第三方接口的三种实现方式

《java对接第三方接口的三种实现方式》:本文主要介绍java对接第三方接口的三种实现方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录HttpURLConnection调用方法CloseableHttpClient调用RestTemplate调用总结在日常工作

无法启动此程序因为计算机丢失api-ms-win-core-path-l1-1-0.dll修复方案

《无法启动此程序因为计算机丢失api-ms-win-core-path-l1-1-0.dll修复方案》:本文主要介绍了无法启动此程序,详细内容请阅读本文,希望能对你有所帮助... 在计算机使用过程中,我们经常会遇到一些错误提示,其中之一就是"api-ms-win-core-path-l1-1-0.dll丢失

Java 的 Condition 接口与等待通知机制详解

《Java的Condition接口与等待通知机制详解》在Java并发编程里,实现线程间的协作与同步是极为关键的任务,本文将深入探究Condition接口及其背后的等待通知机制,感兴趣的朋友一起看... 目录一、引言二、Condition 接口概述2.1 基本概念2.2 与 Object 类等待通知方法的区别

SpringBoot后端实现小程序微信登录功能实现

《SpringBoot后端实现小程序微信登录功能实现》微信小程序登录是开发者通过微信提供的身份验证机制,获取用户唯一标识(openid)和会话密钥(session_key)的过程,这篇文章给大家介绍S... 目录SpringBoot实现微信小程序登录简介SpringBoot后端实现微信登录SpringBoo