关于IDEA出现报错: java.io.FileNotFoundException HADOOP_HOME and hadoop.home.dir are unset

2024-03-12 17:40

本文主要是介绍关于IDEA出现报错: java.io.FileNotFoundException HADOOP_HOME and hadoop.home.dir are unset,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

今天在跑wc的时候,代码仔细确认很多遍没有问题,但就是一直报错如下:

Exceptioninthread"main"java.lang.RuntimeException:java.io.FileNotFoundException:java.io.FileNotFoundException:HADOOP_HOMEandhadoop.home.dirareunset.-seehttps://wiki.apache.org/hadoop/WindowsProblems
atorg.apache.hadoop.util.Shell.getWinUtilsPath(Shell.java:736)
atorg.apache.hadoop.util.Shell.getSetPermissionCommand(Shell.java:271)
atorg.apache.hadoop.util.Shell.getSetPermissionCommand(Shell.java:287)
atorg.apache.hadoop.fs.RawLocalFileSystem.setPermission(RawLocalFileSystem.java:867)
atorg.apache.hadoop.fs.RawLocalFileSystem.mkOneDirWithMode(RawLocalFileSystem.java:549)
atorg.apache.hadoop.fs.RawLocalFileSystem.mkdirsWithOptionalPermission(RawLocalFileSystem.java:589)
atorg.apache.hadoop.fs.RawLocalFileSystem.mkdirs(RawLocalFileSystem.java:561)
atorg.apache.hadoop.fs.RawLocalFileSystem.mkdirsWithOptionalPermission(RawLocalFileSystem.java:588)
atorg.apache.hadoop.fs.RawLocalFileSystem.mkdirs(RawLocalFileSystem.java:566)
atorg.apache.hadoop.fs.FilterFileSystem.mkdirs(FilterFileSystem.java:332)
atorg.apache.hadoop.mapreduce.JobSubmissionFiles.getStagingDir(JobSubmissionFiles.java:162)
atorg.apache.hadoop.mapreduce.JobSubmissionFiles.getStagingDir(JobSubmissionFiles.java:113)
atorg.apache.hadoop.mapreduce.JobSubmitter.submitJobInternal(JobSubmitter.java:148)
atorg.apache.hadoop.mapreduce.Job$11.run(Job.java:1565)
atorg.apache.hadoop.mapreduce.Job$11.run(Job.java:1562)
atjava.security.AccessController.doPrivileged(NativeMethod)
atjavax.security.auth.Subject.doAs(Subject.java:422)
atorg.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1762)
atorg.apache.hadoop.mapreduce.Job.submit(Job.java:1562)
atorg.apache.hadoop.mapreduce.Job.waitForCompletion(Job.java:1583)
atcom.ruozedata.hadoop.mapreduce.wc.WordCountDriver.main(WordCountDriver.java:46)
Causedby:java.io.FileNotFoundException:java.io.FileNotFoundException:HADOOP_HOMEandhadoop.home.dirareunset.-seehttps://wiki.apache.org/hadoop/WindowsProblems
atorg.apache.hadoop.util.Shell.fileNotFoundException(Shell.java:548)
atorg.apache.hadoop.util.Shell.getHadoopHomeDir(Shell.java:569)
atorg.apache.hadoop.util.Shell.getQualifiedBin(Shell.java:592)
atorg.apache.hadoop.util.Shell.(Shell.java:689)
atorg.apache.hadoop.util.StringUtils.(StringUtils.java:78)
atorg.apache.hadoop.conf.Configuration.getBoolean(Configuration.java:1665)
atorg.apache.hadoop.security.SecurityUtil.setConfigurationInternal(SecurityUtil.java:104)
atorg.apache.hadoop.security.SecurityUtil.(SecurityUtil.java:88)
atorg.apache.hadoop.security.UserGroupInformation.initialize(UserGroupInformation.java:316)
atorg.apache.hadoop.security.UserGroupInformation.ensureInitialized(UserGroupInformation.java:304)
atorg.apache.hadoop.security.UserGroupInformation.doSubjectLogin(UserGroupInformation.java:1860)
atorg.apache.hadoop.security.UserGroupInformation.createLoginUser(UserGroupInformation.java:718)
atorg.apache.hadoop.security.UserGroupInformation.getLoginUser(UserGroupInformation.java:668)
atorg.apache.hadoop.security.UserGroupInformation.getCurrentUser(UserGroupInformation.java:579)
atorg.apache.hadoop.mapreduce.task.JobContextImpl.(JobContextImpl.java:72)
atorg.apache.hadoop.mapreduce.Job.(Job.java:150)
atorg.apache.hadoop.mapreduce.Job.getInstance(Job.java:193)
atcom.ruozedata.hadoop.mapreduce.wc.WordCountDriver.main(WordCountDriver.java:21)
Causedby:java.io.FileNotFoundException:HADOOP_HOMEandhadoop.home.dirareunset.
atorg.apache.hadoop.util.Shell.checkHadoopHomeInner(Shell.java:468)
atorg.apache.hadoop.util.Shell.checkHadoopHome(Shell.java:439)
atorg.apache.hadoop.util.Shell.(Shell.java:516)
…14more

问题扣出来就是:

问题原因:

日志描述内容就是,没有设置 HADOOP_HOME 和 hadoop.home.dir 两项。而这两项就是配置在本地环境变量中的 Hadoop 地址,也就是需要我们在本地搭建Hadoop环境。

解决办法:

一、如果是远程连接Linux上的Hadoop集群,是不需要在本地再下载hadoop,只要下载winutils文件,然后配置环境变量,最后再把hadoop.dll文件放到 C:/windows/system32 下就可以了(我亲测的也是这个)

二、hadoop运行在windows系统上的,也是要下载winutils文件,然后配置环境变量,比上面多出一步就是,需要把你下的winutils文件下你需要的Hadoop版本的bin目录文件替换你**windows系统之前使用的Hadoop版本的bin目录文件,**最后同样是把hadoop.dll文件放C:/windows/system32 下就可以(这个解决步骤在最后面)

解决步骤(一):

1.下载winutils文件

GitHub - steveloughran/winutils: Windows binaries for Hadoop versions (built from the git commit ID used for the ASF relase)

点击绿色的Code按钮,再选择Download Zip下载

2.选择版本

如果没有和你版本一致的文件夹,就选择和你版本最相近的,因为我的Hadoop版本是3.2.2版本,所以我选择的是hadoop-3.0.0

3.配置环境变量

配置系统环境变量:

新增 变量名:HADOOP_HOME 变量值:就是你上面选择的hadoop版本文件夹的位置地址

在 变量名:path 中新增 变量值:%HADOOP_HOME%in

4. 把hadoop.dll放到C:/windows/system32文件夹下

拷贝bin文件夹下的hadoop.dll文件

复制进C:/windows/system32文件夹下

6.重启IDEA,再次运行代码,跑成功。亲测哟!!!

解决步骤(二):哈哈哈!我没操作啦,但是你可以去下面这个链接操作

java.io.FileNotFoundException: HADOOP_HOME and hadoop.home.dir are unset. - 简书 (jianshu.com)

这篇关于关于IDEA出现报错: java.io.FileNotFoundException HADOOP_HOME and hadoop.home.dir are unset的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/802065

相关文章

深入浅出Spring中的@Autowired自动注入的工作原理及实践应用

《深入浅出Spring中的@Autowired自动注入的工作原理及实践应用》在Spring框架的学习旅程中,@Autowired无疑是一个高频出现却又让初学者头疼的注解,它看似简单,却蕴含着Sprin... 目录深入浅出Spring中的@Autowired:自动注入的奥秘什么是依赖注入?@Autowired

Spring 依赖注入与循环依赖总结

《Spring依赖注入与循环依赖总结》这篇文章给大家介绍Spring依赖注入与循环依赖总结篇,本文通过实例代码给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友参考下吧... 目录1. Spring 三级缓存解决循环依赖1. 创建UserService原始对象2. 将原始对象包装成工

Java中如何正确的停掉线程

《Java中如何正确的停掉线程》Java通过interrupt()通知线程停止而非强制,确保线程自主处理中断,避免数据损坏,线程池的shutdown()等待任务完成,shutdownNow()强制中断... 目录为什么不强制停止为什么 Java 不提供强制停止线程的能力呢?如何用interrupt停止线程s

SpringBoot请求参数传递与接收示例详解

《SpringBoot请求参数传递与接收示例详解》本文给大家介绍SpringBoot请求参数传递与接收示例详解,本文通过实例代码给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋... 目录I. 基础参数传递i.查询参数(Query Parameters)ii.路径参数(Path Va

SpringBoot路径映射配置的实现步骤

《SpringBoot路径映射配置的实现步骤》本文介绍了如何在SpringBoot项目中配置路径映射,使得除static目录外的资源可被访问,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一... 目录SpringBoot路径映射补:springboot 配置虚拟路径映射 @RequestMapp

Java MCP 的鉴权深度解析

《JavaMCP的鉴权深度解析》文章介绍JavaMCP鉴权的实现方式,指出客户端可通过queryString、header或env传递鉴权信息,服务器端支持工具单独鉴权、过滤器集中鉴权及启动时鉴权... 目录一、MCP Client 侧(负责传递,比较简单)(1)常见的 mcpServers json 配置

GSON框架下将百度天气JSON数据转JavaBean

《GSON框架下将百度天气JSON数据转JavaBean》这篇文章主要为大家详细介绍了如何在GSON框架下实现将百度天气JSON数据转JavaBean,文中的示例代码讲解详细,感兴趣的小伙伴可以了解下... 目录前言一、百度天气jsON1、请求参数2、返回参数3、属性映射二、GSON属性映射实战1、类对象映

Java Stream 并行流简介、使用与注意事项小结

《JavaStream并行流简介、使用与注意事项小结》Java8并行流基于StreamAPI,利用多核CPU提升计算密集型任务效率,但需注意线程安全、顺序不确定及线程池管理,可通过自定义线程池与C... 目录1. 并行流简介​特点:​2. 并行流的简单使用​示例:并行流的基本使用​3. 配合自定义线程池​示

从原理到实战解析Java Stream 的并行流性能优化

《从原理到实战解析JavaStream的并行流性能优化》本文给大家介绍JavaStream的并行流性能优化:从原理到实战的全攻略,本文通过实例代码给大家介绍的非常详细,对大家的学习或工作具有一定的... 目录一、并行流的核心原理与适用场景二、性能优化的核心策略1. 合理设置并行度:打破默认阈值2. 避免装箱

解决升级JDK报错:module java.base does not“opens java.lang.reflect“to unnamed module问题

《解决升级JDK报错:modulejava.basedoesnot“opensjava.lang.reflect“tounnamedmodule问题》SpringBoot启动错误源于Jav... 目录问题描述原因分析解决方案总结问题描述启动sprintboot时报以下错误原因分析编程异js常是由Ja