遷移Spark2.4.2/Scala 2.11 工程項目到Spark 3.0.3/Scala 2.12 的過程,運行工程代碼報錯:
User class threw exception: java.lang.NoSuchMethodError: scala.Predef$.refArrayOps([Ljava/lang/Object;)[Ljava/lang/Object;
乍一看是某一行的引用方式取數組元素報錯,但是在Spark-shell中運行沒有問題。最后經過分析,是編譯和運行的Spark/Scala版本不同導致的。有兩種情況都可能導致上述報錯;
情況一:低版本scala 2.11的jar包被包含在高版本scala 2.12編譯的程序中,這些jar包,可能是 spark-sql_2.11[1]、spark-core_2.11等等
情況二:高版本scala 2.12編譯的jar,使用低版本的scala 2.11的spark_submit 命令進行提交;比如使用spark-2.1.0-bin-hadoop2.6/scala 2.11的工具鏈,提交 spark3.0.3/scala 2.12 版本的任務到集群。
參考鏈接:[1] https://www.cnblogs.com/itboys/p/6675075.html
