scala.Predef$.refArrayOps([Ljava/lang/Object;)[Ljava/lang/Object; 錯誤原因分析


遷移Spark2.4.2/Scala 2.11 工程項目到Spark 3.0.3/Scala 2.12 的過程,運行工程代碼報錯:

  User class threw exception: java.lang.NoSuchMethodError: scala.Predef$.refArrayOps([Ljava/lang/Object;)[Ljava/lang/Object;

 

乍一看是某一行的引用方式取數組元素報錯,但是在Spark-shell中運行沒有問題。最后經過分析,是編譯和運行的Spark/Scala版本不同導致的。有兩種情況都可能導致上述報錯;

  情況一:低版本scala 2.11的jar包被包含在高版本scala 2.12編譯的程序中,這些jar包,可能是 spark-sql_2.11[1]spark-core_2.11等等

    情況二:高版本scala 2.12編譯的jar,使用低版本的scala 2.11的spark_submit 命令進行提交;比如使用spark-2.1.0-bin-hadoop2.6/scala 2.11的工具鏈,提交 spark3.0.3/scala 2.12 版本的任務到集群。

參考鏈接:[1] https://www.cnblogs.com/itboys/p/6675075.html


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM