原文:Caused by: java.lang.RuntimeException: native snappy library not available: this version of libhadoop was built without snappy support.

使用hive时插入的数据,由于在hive配置中设置输出的是snappy格式文件,文件如下。 在hadoop中检测支持的库: 在使用spark sql读取hive的这个表时,出现以下错误: 说明spark未引用到这个类库。 解决方案: 在环境变量 etc profile中增加library的路径,记得加完后source etc profile使其生效。 再次启动spark sql查询,问题解决: ...

2021-07-24 02:47 0 168 推荐指数:

查看详情

M1芯片MacBook Pro解决snappy-java的FAILED_TO_LOAD_NATIVE_LIBRARY问题

太长不看版 直接找到引入该依赖的xml文件(本人是spark-core的xml文件),将其中的snappy-javaversion改为1.1.8.4。重新加载即可。 详细探索过程 日前新M1 pro芯片的MacBook Pro到手了,迫不及待的试了试。因为该芯片使用的ARM指令集,之前 ...

Fri Nov 19 04:03:00 CST 2021 0 1098
 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM