本文主要是介绍argodb自定义函数读取hdfs文件的注意点，避免FileSystem已关闭异常，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！
一、问题描述
一位同学反馈，他写的argo存过中调用了一个自定义函数，函数会加载hdfs上的一个文件，但有些节点会报FileSystem closed异常，同时有时任务会成功，有时会失败。
二、问题分析
argodb的计算引擎是基于spark的定制化引擎，对于自定义函数的调用跟hive on spark的是一致的。udf要通过反射生成实例，然后迭代调用evaluate。通过代码分析，udf在读取完hdfs文件后会关闭FS，这在逻辑上是正确的，那为什么还会出现HDFS文件系统已关闭的异常？难道是Spark的各个不同节点的executor共享了FS（客户端）？顺着这一点，可以查看集群上这个配置项的值，即“fs.hdfs.impl.disable.cache”，这个值默认是false(出现性能考虑)，但这意味着hdfs文件系统的实现类(DistributedFileSystem)实例是共享、缓存的，在spark不同的executor中一旦有一个任务关闭了fs，那么其它的executor也会受到影响，这也是报fs closed异常的原因，所以将fs.hdfs.impl.disable.cache设置成true，不允许缓存fs。即可解决该问题。
三、问题解决
fs.hdfs.impl.disable.cache=true
这篇关于argodb自定义函数读取hdfs文件的注意点，避免FileSystem已关闭异常的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！
