參考
官方網站：https://github.com/happyfish100/
配置文檔：https://github.com/happyfish100/fastdfs/wiki/
參考資料：https://www.oschina.net/question/tag/fastdfs
Java客戶端：https://github.com/happyfish100/fastdfs-client-java
術語
fastDFS：
FastDFS是一款開源的輕量級分布式文件系統純C實現，支持Linux、FreeBSD等UNIX系統類google FS，不是通用的文件系統，只能通過專有API訪問，目前提供了C、Java和PHP API為互聯網應用量身定做，解決大容量文件存儲問題，追求高性能和高擴展性FastDFS可以看做是基於文件的key value pair存儲系統，稱作分布式文件存儲服務更為合適。
------ 來自官網介紹
tracker-server:
跟蹤服務器， 主要做調度工作， 起負載均衡的作用。 在內存中記錄集群中所有存儲組和存儲服務器的狀態信息， 是客戶端和數據服務器交互的樞紐。 相比GFS中的master更為精簡， 不記錄文件索引信息， 占用的內存量很少。
storage-server:
存儲服務器（ 又稱：存儲節點或數據服務器） ， 文件和文件屬性（ metadata） 都保存到存儲服務器上。 Storage server直接利用OS的文件系統調用管理文件。
group:
組， 也可稱為卷。 同組內服務器上的文件是完全相同的 ，同一組內的storage server之間是對等的， 文件上傳、 刪除等操作可以在任意一台storage server上進行 。
meta data:
meta data：文件相關屬性，鍵值對（ Key Value Pair） 方式，如：width=1024,heigth=768 。
單機文件系統的對比
| 文件系統 | 高可用 | 擴展 | 部署復雜程度 | 性能 |
|---|---|---|---|---|
| 單機文件系統 | 低，依賴於單機服務器，只要服務器崩潰，完全不可用。 | 低，要擴容只能停機增加硬盤。 | 低 | 當文件數量多到一定的程度，磁盤IO尋址操作將會成為瓶頸 |
| 分布式文件系統 | 高，一個group內的服務器崩潰后，group內的其他storage將接管服務。 | 高，可以不停機增加group機器。 | 高，部署較復雜 | 高，通過集群或者分布式的方式分擔服務器的壓力。 |
其他文件系統的對比
| 指標 | 適合類型 | 文件分布 | 系統性能 | 復雜度 | FUSE | POSIX | 備份機制 | 通訊協議接口 | 社區支持 | 開發語言 |
|---|---|---|---|---|---|---|---|---|---|---|
| FastDFS | 4KB~500MB | 小文件合並存儲不分片處理 | 很高 | 簡單 | 不支持 | 不支持 | 組內冗余備份 | Api HTTP | 國內用戶群 | C語言 |
| TFS | 所有文件 | 小文件合並，以block組織分片 | 復雜 | 不支持 | Block存儲多份,主輔災備 | API http | 少 | C++ | ||
| MFS | 大於64K | 分片存儲 | Master占內存多 | 支持 | 支持 | 多點備份動態冗余 | 使用fuse掛在 | 較多 | Perl | |
| HDFS | 大文件 | 大文件分片分塊存儲 | 簡單 | 支持 | 支持 | 多副本 | 原生api | 較多 | Java | |
| Ceph | 對象文件塊 | OSD一主多從 | 復雜 | 支持 | 支持 | 多副本 | 原生api | 較少 | C++ | |
| MogileFS | 海量小圖片 | 高 | 復雜 | 可以支持 | 不支持 | 動態冗余 | 原生api | 文檔少 | Perl | |
| ClusterFS | 大文件 | 簡單 | 支持 | 支持 | 多 | C |
適用場景：
特別適合以中小文件（ 建議范圍： 4KB 到 500MB ） 為載體的在線服務， 如相冊網站、 視頻網站等等。
部署結構
適合本公司的最小化部署圖
192.168.1.177安裝fastdfs的tracker節點，以及nginx反向代理服務器用於下載服務。
192.168.1.188，192.168.1.189安裝fastdfs的storage節點，默認分一組，一組內兩台機器互為備份.
注意：為了做到高可用，一個group建議分為兩台以上的機器。
tracker安裝（192.168.1.177）
-
安裝 libfastcommon、perl依賴，下載libfastcommon-master.zip，上傳到服務器的/usr目錄下。
https://github.com/happyfish100/libfastcommon[root@localhost usr]# unzip libfastcommon-master.zip [root@localhost usr]# cd libfastcommon-master [root@localhost usr]# ./make.sh [root@localhost usr]# ./make.sh install [root@localhost usr]# yum install perl -
編譯安裝fastdfs
[root@localhost usr] # tar -zxvf fastdfs-5.08.tar.gz [root@localhost usr] # cd fastdfs-5.08 [root@localhost fastdfs-5.08] # ./make.sh [root@localhost fastdfs-5.08] # ./make.sh install [root@localhost fastdfs-5.08]# ./make.sh install mkdir -p /usr/bin mkdir -p /etc/fdfs cp -f fdfs_trackerd /usr/bin if [ ! -f /etc/fdfs/tracker.conf.sample ]; then cp -f ../conf/tracker.conf /etc/fdfs/tracker.conf.sample; fi mkdir -p /usr/bin mkdir -p /etc/fdfs cp -f fdfs_storaged /usr/bin if [ ! -f /etc/fdfs/storage.conf.sample ]; then cp -f ../conf/storage.conf /etc/fdfs/storage.conf.sample; fi mkdir -p /usr/bin mkdir -p /etc/fdfs mkdir -p /usr/lib64 mkdir -p /usr/lib cp -f fdfs_monitor fdfs_test fdfs_test1 fdfs_crc32 fdfs_upload_file fdfs_download_file fdfs_delete_file fdfs_file_info fdfs_appender_test fdfs_appender_test1 fdfs_append_file fdfs_upload_appender /usr/bin if [ 0 -eq 1 ]; then cp -f libfdfsclient.a /usr/lib64; cp -f libfdfsclient.a /usr/lib/;fi if [ 1 -eq 1 ]; then cp -f libfdfsclient.so /usr/lib64; cp -f libfdfsclient.so /usr/lib/;fi mkdir -p /usr/include/fastdfs cp -f ../common/fdfs_define.h ../common/fdfs_global.h ../common/mime_file_parser.h ../common/fdfs_http_shared.h ../tracker/tracker_types.h ../tracker/tracker_proto.h ../tracker/fdfs_shared_func.h ../storage/trunk_mgr/trunk_shared.h tracker_client.h storage_client.h storage_client1.h client_func.h client_global.h fdfs_client.h /usr/include/fastdfs if [ ! -f /etc/fdfs/client.conf.sample ]; then cp -f ../conf/client.conf /etc/fdfs/client.conf.sample; fi
如出現以上信息，說明安裝成功。
fastDFS命令目錄：/usr/bin
fastDFS配置文件目錄:/etc/fdfs
-
創建fastdfs數據目錄
mkdir -pv /data/fastdfs/tracker -
修改tracker.conf中的 base_path=/data/fastdfs/tracker，即剛才配置的數據文件目錄
cp etc/fdfs/tracker.conf.sample etc/fdfs/tracker.conf vi etc/fdfs/tracker.conf -
啟動FASTDFS
cd /usr/bin fdfs_trackerd /etc/fdfs/tracker.conf restart -
驗證，默認端口是22122
[root@localhost bin]# netstat -antp|grep trackerd tcp 0 0 0.0.0.0:22122 0.0.0.0:* LISTEN 31046/fdfs_trackerd
storage安裝（192.168.1.188，192.168.1.189）
storage的安裝與tracker安裝類似，首先編譯安裝fastdfs，然后修改配置文件。
-
創建配置文件
cp etc/fdfs/storage.conf.sample etc/fdfs/storage.conf vi etc/fdfs/storage.conf -
修改tracker.conf中的
disabled=false #啟用配置文件 group_name=group1 #組名，根據實際情況修改 port=23000 #設置 storage 的端口號 base_path=/data/fastdfs/storage #設置 storage 的日志目錄（需預先創建） store_path_count=1 #存儲路徑個數，需要和 store_path 個數匹配 store_path0=/data/fastdfs/storage #存儲路徑 tracker_server=192.168.1.177:22122 #tracker 服務器的 IP 地址和端口號 -
啟動
cd /usr/bin ./fdfs_storaged /etc/fdfs/storage.conf restart
java client
Javaclient的jar包不在maven的中央倉庫中，需要下載源碼包手工安裝到私服中。
下載地址：https://github.com/happyfish100/fastdfs-client-java
我們主要關注storageclient這個類，這個類提供了文件上傳下載查詢文件信息等主要功能，與系統的集成也主要使用這個api。
-
新建fastDFS.conf配置文件
connect_timeout = 2 network_timeout = 20 #tracker服務器地址，如果有多個tracker可以配置多個tracker_server tracker_server=192.168.1.177:22122 -
運行源碼包中的org.csource.fastdfs.test.testClient.java，注意在main方法中需要傳遞兩個參數，第一個是配置文件，第二個是待上傳的文件
Paste_Image.png -
測試結果，已經能夠通過Javaclient上傳下載文件，但是通過http的方式下載還有問題。
Paste_Image.png
在storage節點上安裝nginx，增加http下載支持
-
編譯安裝nginx，下載prce、zlib、fastdfs-nginx-module依賴支持，上傳到storage的usr/local/src目錄下。fastdfs-nginx-module主要用於解決同一組內文件同步不及時的問題。
Paste_Image.png -
解壓縮
cd /usr/local/src unzip ./zlib-master.zip tar -xvf ./nginx-1.11.7.tar.gz unzip ./pcre-8.38.zip cd ./nginx-1.11.7 ./configure --prefix=/usr/local/nginx --add-module=/usr/local/src/fastdfs-nginx-module-master/src --with-pcre=/usr/local/src/pcre-8.38 --with-zlib=/usr/local/src/zlib-master make && make install cp ../fastdfs-nginx-module-master/src/mod_fastdfs.conf /etc/fdfs/ -
修改nginx.conf
server { listen 80; server_name localhost; location ~ /group1/M00{ root /data/fastdfs/storage; ngx_fastdfs_module; } } -
配置mod_fastdfs.conf
#保存日志目錄 base_path=/data/fastdfs/storage #tracker 服務器的 IP 地址以及端口號 storage_server_port=23000 #storage 服務器的端口號 tracker_server=192.168.1.177:22122 #當前服務器的 group 名 group_name=group1 #文件 url 中是否有 group 名 url_have_group_name = true #存儲路徑個數，需要和 store_path 個數匹配 store_path0=/data/fastdfs/storage #存儲路徑 store_path_count=1 # 從文件 擴展 名查 找 文件 類型 （ nginx 時 為true） group_count = 2#設置組的個數 http.need_find_content_type=true [group1] group_name=group1 storage_server_port=23000 store_path_count=1 store_path0=/data/fastdfs/storage
安裝nginx反向代理服務器（192.168.1.177）
-
安裝nginx，安裝過程參考上一步
-
配置nginx.conf
upstream fdfs_group1 { server 192.168.1.188 weight=1 max_fails=2 fail_timeout=30s; #server 192.168.1.189 weight=1 max_fails=2 fail_timeout=30s; } server { listen 80; server_name localhost; location /group1/M00 { proxy_next_upstream http_502 http_504 error timeout invalid_header; proxy_pass http://fdfs_group1; expires 30d; } #其他配置 } -
再次使用Javaclient測試
Paste_Image.png
Paste_Image.png
其他深入主題
- nginx反向代理服務器的緩存優化
- 擴容方案
- tracker節點的集群優化
作者：哥別打臉
鏈接：https://www.jianshu.com/p/1c71ae024e5e
來源：簡書
簡書著作權歸作者所有，任何形式的轉載都請聯系作者獲得授權並注明出處。