3. HDFS的shell(命令行客戶端)操作
3.1 HDFS命令行客戶端使用
HDFS提供shell命令行客戶端，使用方法如下：
3.2 命令行客戶端支持的命令參數
| [-appendToFile <localsrc> ... <dst>] [-cat [-ignoreCrc] <src> ...] [-checksum <src> ...] [-chgrp [-R] GROUP PATH...] [-chmod [-R] <MODE[,MODE]... | OCTALMODE> PATH...] [-chown [-R] [OWNER][:[GROUP]] PATH...] [-copyFromLocal [-f] [-p] <localsrc> ... <dst>] [-copyToLocal [-p] [-ignoreCrc] [-crc] <src> ... <localdst>] [-count [-q] <path> ...] [-cp [-f] [-p] <src> ... <dst>] [-createSnapshot <snapshotDir> [<snapshotName>]] [-deleteSnapshot <snapshotDir> <snapshotName>] [-df [-h] [<path> ...]] [-du [-s] [-h] <path> ...] [-expunge] [-get [-p] [-ignoreCrc] [-crc] <src> ... <localdst>] [-getfacl [-R] <path>] [-getmerge [-nl] <src> <localdst>] [-help [cmd ...]] [-ls [-d] [-h] [-R] [<path> ...]] [-mkdir [-p] <path> ...] [-moveFromLocal <localsrc> ... <dst>] [-moveToLocal <src> <localdst>] [-mv <src> ... <dst>] [-put [-f] [-p] <localsrc> ... <dst>] [-renameSnapshot <snapshotDir> <oldName> <newName>] [-rm [-f] [-r|-R] [-skipTrash] <src> ...] [-rmdir [--ignore-fail-on-non-empty] <dir> ...] [-setfacl [-R] [{-b|-k} {-m|-x <acl_spec>} <path>]|[--set <acl_spec> <path>]] [-setrep [-R] [-w] <rep> <path> ...] [-stat [format] <path> ...] [-tail [-f] <file>] [-test -[defsz] <path>] [-text [-ignoreCrc] <src> ...] [-touchz <path> ...] [-usage [cmd ...]] |
3.2 常用命令參數介紹
| -help 功能：輸出這個命令參數手冊 |
| -ls 功能：顯示目錄信息 示例： hadoop fs -ls hdfs://hadoop-server01:9000/ 備注：這些參數中，所有的hdfs路徑都可以簡寫 -->hadoop fs -ls / 等同於上一條命令的效果 |
| -mkdir 功能：在hdfs上創建目錄 示例：hadoop fs -mkdir -p /aaa/bbb/cc/dd |
| -moveFromLocal 功能：從本地剪切粘貼到hdfs 示例：hadoop fs - moveFromLocal /home/hadoop/a.txt /aaa/bbb/cc/dd -moveToLocal 功能：從hdfs剪切粘貼到本地 示例：hadoop fs - moveToLocal /aaa/bbb/cc/dd /home/hadoop/a.txt |
| --appendToFile 功能：追加一個文件到已經存在的文件末尾 示例：hadoop fs -appendToFile ./hello.txt hdfs://hadoop-server01:9000/hello.txt 可以簡寫為： Hadoop fs -appendToFile ./hello.txt /hello.txt
|
| -cat 功能：顯示文件內容 示例：hadoop fs -cat /hello.txt
-tail 功能：顯示一個文件的末尾 示例：hadoop fs -tail /weblog/access_log.1 -text 功能：以字符形式打印一個文件的內容 示例：hadoop fs -text /weblog/access_log.1 |
| -chgrp -chmod -chown 功能：linux文件系統中的用法一樣，對文件所屬權限 示例： hadoop fs -chmod 666 /hello.txt hadoop fs -chown someuser:somegrp /hello.txt |
| -copyFromLocal 功能：從本地文件系統中拷貝文件到hdfs路徑去 示例：hadoop fs -copyFromLocal ./jdk.tar.gz /aaa/ -copyToLocal 功能：從hdfs拷貝到本地 示例：hadoop fs -copyToLocal /aaa/jdk.tar.gz |
| -cp 功能：從hdfs的一個路徑拷貝hdfs的另一個路徑 示例： hadoop fs -cp /aaa/jdk.tar.gz /bbb/jdk.tar.gz.2
-mv 功能：在hdfs目錄中移動文件 示例： hadoop fs -mv /aaa/jdk.tar.gz / |
| -get 功能：等同於copyToLocal，就是從hdfs下載文件到本地 示例：hadoop fs -get /aaa/jdk.tar.gz -getmerge 功能：合並下載多個文件 示例：比如hdfs的目錄 /aaa/下有多個文件:log.1, log.2,log.3,... hadoop fs -getmerge /aaa/log.* ./log.sum |
| -put 功能：等同於copyFromLocal 示例：hadoop fs -put /aaa/jdk.tar.gz /bbb/jdk.tar.gz.2
|
| -rm 功能：刪除文件或文件夾 示例：hadoop fs -rm -r /aaa/bbb/
-rmdir 功能：刪除空目錄 示例：hadoop fs -rmdir /aaa/bbb/ccc |
| -df 功能：統計文件系統的可用空間信息 示例：hadoop fs -df -h /
-du 功能：統計文件夾的大小信息 示例： hadoop fs -du -s -h /aaa/*
|
| -count 功能：統計一個指定目錄下的文件節點數量 示例：hadoop fs -count /aaa/
|
| -setrep 功能：設置hdfs中文件的副本數量 示例：hadoop fs -setrep 3 /aaa/jdk.tar.gz <這里設置的副本數只是記錄在namenode的元數據中，是否真的會有這么多副本，還得看datanode的數量>
|