2022
我们一起努力

怎么解决java.io.IOException: Cannot obtain block length for LocatedBlock的问题

本篇文章为大家展示了怎么解决java.io.IOException: Cannot obtain block length for LocatedBlock的问题,内容简明扼要并且容易理解,绝对能使你眼前一亮,通过这篇文章的详细介绍希望你能有所收获。

在hadoop测试集群运行job的过程中发现部分运行失败,有Cannot obtain block length for LocatedBlock,使用hdfs dfs -cat ${文件}的时候也报这个错,看过代码后发现是文件未被正常关闭(flume传到hdfs上的,可能由于Namenode长时间gc或者切换或者重启会留下很多.tmp结尾的文件),为此,使用hadoop命令显示处于打开状态的文件,然后删除这些文件:

hadoop fsck / -openforwrite | egrep -v '^\.+$' | egrep "MISSING|OPENFORWRITE" | grep -o "/[^ ]*" | sed -e "s/:$//" | xargs -i hadoop fs -rmr {};

怎么解决java.io.IOException: Cannot obtain block length for LocatedBlock的问题

然后重传这些文件到hdfs。

上述内容就是怎么解决java.io.IOException: Cannot obtain block length for LocatedBlock的问题,你们学到知识或技能了吗?如果还想学到更多技能或者丰富自己的知识储备,欢迎关注云行业资讯频道。

赞(0)
文章名称:《怎么解决java.io.IOException: Cannot obtain block length for LocatedBlock的问题》
文章链接:https://www.fzvps.com/49495.html
本站文章来源于互联网,如有侵权,请联系管理删除,本站资源仅供个人学习交流,请于下载后24小时内删除,不允许用于商业用途,否则法律问题自行承担。
图片版权归属各自创作者所有,图片水印出于防止被无耻之徒盗取劳动成果的目的。

评论 抢沙发

评论前必须登录!