原文:Caused by: java.lang.RuntimeException: native snappy library not available: this version of libhadoop was built without snappy support.

使用hive時插入的數據,由於在hive配置中設置輸出的是snappy格式文件,文件如下。 在hadoop中檢測支持的庫: 在使用spark sql讀取hive的這個表時,出現以下錯誤: 說明spark未引用到這個類庫。 解決方案: 在環境變量 etc profile中增加library的路徑,記得加完后source etc profile使其生效。 再次啟動spark sql查詢,問題解決: ...

2021-07-24 02:47 0 168 推薦指數:

查看詳情

M1芯片MacBook Pro解決snappy-java的FAILED_TO_LOAD_NATIVE_LIBRARY問題

太長不看版 直接找到引入該依賴的xml文件(本人是spark-core的xml文件),將其中的snappy-javaversion改為1.1.8.4。重新加載即可。 詳細探索過程 日前新M1 pro芯片的MacBook Pro到手了,迫不及待的試了試。因為該芯片使用的ARM指令集,之前 ...

Fri Nov 19 04:03:00 CST 2021 0 1098
 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM