Diagnostics: File file:/tmp/spark-***/__spark_libs__***.zip does not exist



Diagnostics: File file:/tmp/spark-c03df206-c90e-4c97-a2d6-a5d3fdb17811/__spark_libs__303213348409500965.zip does not exist

 

 

使用了cluster和client的deploy mode都不好使。期间使用cluster模式下,还报出了jar包找不到的异常。。

 

 

问题定位:因为spark和Hadoop的配置路径进行过更改与更新,在spark-env.sh文件中Hadoop_conf_home没有更新,导致spark无法正确读取yarn集群的配置内容。导致了错误。

 

解决办法:echo 'HADOOP_CONF_DIR='${HADOOP_HOME}/etc/hadoop >> ${SPARK_HOME}/conf/spark-env.sh


Diagnostics: File file:/tmp/spark-c03df206-c90e-4c97-a2d6-a5d3fdb17811/__spark_libs__303213348409500965.zip does not exist


免责声明!

本站转载的文章为个人学习借鉴使用,本站对版权不负任何法律责任。如果侵犯了您的隐私权益,请联系本站邮箱yoyou2525@163.com删除。



 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM