hadoop distcp 命令使用指導


1、概述

DistCp(distributed copy)是一款被用於大型集群間/集群內的復制工具。
它使用MapReduce來實現其分布,錯誤處理和恢復以及報告。
它將文件列表和目錄擴展為map任務的輸入,每個任務都將復制源文件列表中指定的一些文件的一個分區。

2、基本運用

DistCp最常見的調用是一個集群間拷貝:

bash$ hadoop distcp hdfs://nn1:8020/foo/bar \
hdfs://nn2:8020/bar/foo

這會將nn1上的/ foo / bar下的命名空間擴展為一個臨時文件,將其內容在一組map任務之間進行分區,
並在每個NodeManager上啟動一個從nn1到nn2的復制任務。

你也可以在命令行上指定多個源目錄:


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM