sqoop導入hdfs時指定num-mappers參數


num-mappers可以指定mapper運行計算數量,當指定為1時,可以不用設置split-by參數,不指定num-mappers時,默認為4,當不指定或者num-mappers大於1時,需要指定split-by參數。例子如下:

使用查詢語句(--e或--query)導入時,需要指定--split-by參數及--target-dir參數;
When importing query results in parallel, you must specify --split-by. Must specify destination with --target-dir.

 

sqoop import --connect  connect jdbc:mysql://114.215xx.xx.xx:3306/crawler_data \

--username test --password test  \

--e 'select * from T_SQOOP_TEST where $CONDITIONS' --verbose --split-by  id --target-dir temp3 --m 1

 


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM