fastDfs-理解安裝，一篇就夠了

覺得可以，點關注

contos7
fastdfs-5.11
fastdfs-nginx-module-1.20
libfastcommon-1.0.40
nginx-1.12.0
在百度網盤可以找到對應資源
鏈接: https://pan.baidu.com/s/19fZUvkJ-BBJ6zJAhsuEqJg 提取碼: 55cd
將package包復制到  / 目錄下，只需復制粘貼即可安裝完成
后續更新最小集群安裝

什么是FastDFS

• FastDFS是用c語言編寫的一款開源的分布式文件系統。FastDFS為互聯網量身定制，充分考慮了冗余備份、負載均衡、線性擴容等機制，並注重高可用、高性能等指標，使用FastDFS很容易搭建一套高性能的文件服務器集群提供文件上傳、下載等服務。

FastDFS架構

• FastDFS架構包括 Tracker server和Storage server。客戶端請求Tracker server進行文件上傳、下載，通過Tracker server調度最終由Storage server完成文件上傳和下載。
• Tracker server作用是負載均衡和調度，通過Tracker server在文件上傳時可以根據一些策略找到Storage server提供文件上傳服務。可以將tracker稱為追蹤服務器或調度服務器。
• Storage server作用是文件存儲，客戶端上傳的文件最終存儲在Storage服務器上，Storage server沒有實現自己的文件系統而是利用操作系統 的文件系統來管理文件。可以將storage稱為存儲服務器。
  

Tracker 集群

• FastDFS集群中的Tracker server可以有多台，Tracker server之間是相互平等關系同時提供服務，Tracker server不存在單點故障。客戶端請求Tracker server采用輪詢方式，如果請求的tracker無法提供服務則換另一個tracker。

Storage集群

• Storage集群采用了分組存儲方式。storage集群由一個或多個組構成，集群存儲總容量為集群中所有組的存儲容量之和。一個組由一台或多台存儲服務器組成，組內的Storage server之間是平等關系，不同組的Storage server之間不會相互通信，同組內的Storage server之間會相互連接進行文件同步，從而保證同組內每個storage上的文件完全一致的。一個組的存儲容量為該組內存儲服務器容量最小的那個，由此可見組內存儲服務器的軟硬件配置最好是一致的。
• 采用分組存儲方式的好處是靈活、可控性較強。比如上傳文件時，可以由客戶端直接指定上傳到的組也可以由tracker進行調度選擇。一個分組的存儲服務器訪問壓力較大時，可以在該組增加存儲服務器來擴充服務能力（縱向擴容）。當系統容量不足時，可以增加組來擴充存儲容量（橫向擴容）。

Storage狀態收集

• Storage server會連接集群中所有的Tracker server，定時向他們報告自己的狀態，包括磁盤剩余空間、文件同步狀況、文件上傳下載次數等統計信息。

文件上傳

• 客戶端上傳文件后存儲服務器將文件ID返回給客戶端，此文件ID用於以后訪問該文件的索引信息。文件索引信息包括：組名，虛擬磁盤路徑，數據兩級目錄，文件名
  • 組名：文件上傳后所在的storage組名稱，在文件上傳成功后有storage服務器返回，需要客戶端自行保存。
  • 虛擬磁盤路徑：storage配置的虛擬路徑，與磁盤選項store_path*對應。如果配置了store_path0則是M00，如果配置了store_path1則是M01，以此類推。
  • 數據兩級目錄：storage服務器在每個虛擬磁盤路徑下創建的兩級目錄，用於存儲數據文件。
  • 文件名：與文件上傳時不同。是由存儲服務器根據特定信息生成，文件名包含：源存儲服務器IP地址、文件創建時間戳、文件大小、隨機數和文件拓展名等信息。

文件下載

• tracker根據請求的文件路徑即文件ID 來快速定義文件
• 通過組名tracker能夠很快的定位到客戶端需要訪問的存儲服務器組是group1，並選擇合適的存儲服務器提供客戶端訪問。
• 2.存儲服務器根據“文件存儲虛擬磁盤路徑”和“數據文件兩級目錄”可以很快定位到文件所在目錄，並根據文件名找到客戶端需要訪問的文件。

配置虛擬機ip，靜態環境

vi /etc/sysconfig/network-scripts/ifcfg-eth0

• 修改內容,沒有的添加

bootproto=static
onboot=yes
IPADDR=10.200.47.105
NETMASK=255.255.255.0
GATEWAY=192.168.1.1
DNS1=119.29.29.29

• 重啟網絡服務

systemctl restart network

fastDfs安裝

• 創建文件夾

mkdir -p /package 											#存放安裝包
mkdir -p /package/util										#工具安裝包
mkdir -p /package/perl										#perl安裝包
mkdir -p /package/gcc										#gcc環境安裝包
mkdir -p /data/fastdfs/log
mkdir -p /data/fastdfs/data
mkdir -p /data/fastdfs/tracker
mkdir -p /data/fastdfs/client

• 安裝環境

# 將gcc環境rpm包上傳到/package/gcc
rpm  -ivh  /package/gcc/*.rpm --nodeps --force
# 將perl的rpm安裝包上傳到/package/perl
rpm  -ivh  /package/perl/*.rpm --nodeps --force
# netstat工具安裝
rpm -ivh /package/util/*.rpm --nodeps --force

• 安裝LibFastCommon，將libfastcommon-1.0.40.tar.gz文件上傳到/package

cd /package
tar -zxvf libfastcommon-1.0.40.tar.gz
cd libfastcommon-1.0.40
./make.sh && ./make.sh install

• 做軟連接

ln -s  /usr/lib64/libfastcommon.so  /usr/local/lib/libfastcommon.so
ln -s  /usr/lib64/libfastcommon.so  /usr/lib/libfastcommon.so
ln -s  /usr/lib64/libfdfsclient.so  /usr/local/lib/libfdfsclient.so
ln -s  /usr/lib64/libfdfsclient.so  /usr/lib/libfdfsclient.so

• 安裝FastDFS 將fastdfs-5.11.tar.gz文件上傳到/package

cd /package
tar -zxvf fastdfs-5.11.tar.gz
cd fastdfs-5.11
./make.sh && ./make.sh install

配置

• Tracker -- >> 跟蹤器

cd /etc/fdfs/
cp tracker.conf.sample tracker.conf
vim tracker.conf
## 關注如下幾個配置
## 存儲數據和日志文件的基本路徑
base_path=/data/fastdfs/tracker
## Http服務端口
http.server_port=8080
## 默認提供服務端口
port=22122

• 啟動tracker

/usr/bin/fdfs_trackerd /etc/fdfs/tracker.conf start
# 查看狀態
netstat -apn|grep fdfs
# 打印結果
tcp  0  0 0.0.0.0:22122  0.0.0.0:*   LISTEN  10780/fdfs_trackerd

• 配置數據存儲

cp /etc/fdfs/storage.conf.sample /etc/fdfs/storage.conf
vim /etc/fdfs/storage.conf
# 關注如下配置
# storage存儲data和log的跟路徑
base_path=/data/fastdfs/data
# 默認組名
group_name=group1
# 默認端口，相同組的storage端口號必須一致
port=23000
# 配置一個存儲路徑
store_path_count=1
store_path0=/data/fastdfs/data
# 配置跟蹤器IP和端口
tracker_server=10.200.47.105:22122

• 啟動存儲服務

/usr/bin/fdfs_storaged /etc/fdfs/storage.conf start
# 查看狀態
netstat -apn|grep fdfs
# 查看日志
tail -f /data/fastdfs/data/logs/storaged.log
# 日志展示：單台FastDFS安裝成功
set tracker leader: 192.168.72.130:22122
# 查看Storage和Tracker是否在通信
/usr/bin/fdfs_monitor /etc/fdfs/storage.conf
Storage 1:
    id = 192.168.72.130
    ip_addr = 192.168.72.130 (localhost.localdomain)  ACTIVE

配置客戶端測試

cp /etc/fdfs/client.conf.sample /etc/fdfs/client.conf
vim /etc/fdfs/client.conf
# 關注如下幾個配置
# client數據和日志目錄
base_path=/data/fastdfs/client
# 配置跟蹤器IP和端口
tracker_server=192.168.72.130:22122

• 客戶端測試 調用客戶端文件上傳命令
  • /usr/bin/fdfs_upload_file /etc/fdfs/client.conf
  • 如 /usr/bin/fdfs_upload_file /etc/fdfs/client.conf /etc/fdfs/client.conf.sample
• 返回文件上傳的相對路徑和編號
  • group1/M00/00/00/CsgvaV3t_K-AM2FxAAAFtXJOjeo.sample
• 文件成功上傳storage服務器，但是還無法查看下載。需要安裝Nginx服務器用來支持Http方式訪問文件

安裝Nginx

• 將fastdfs-nginx-module-1.20.tar.gz文件上傳到/package

fastdfs-nginx-module作用說明：FastDfs通過Tracker服務器，向Storage存儲數據

cd /package
tar -zxvf fastdfs-nginx-module-1.20.tar.gz

• 將nginx-1.12.0.tar.gz文件上傳到/package

cd /package
tar -zxvf nginx-1.12.0.tar.gz
cd nginx-1.12.0
./configure --add-module=/package/fastdfs-nginx-module-1.20/src/
make && make install

• 如果編譯出錯
  /usr/include/fastdfs/fdfs_define.h:15:27: 致命錯誤：common_define.h：沒有那個文件或目錄
• 修改

vim /package/fastdfs-nginx-module-1.20/src/config
# 將以下兩句話替換
ngx_module_incs="/usr/include/fastdfs /usr/include/fastcommon/"
CORE_INCS="$CORE_INCS /usr/include/fastdfs /usr/include/fastcommon/"
# 再次執行
cd /package/nginx-1.12.0
./configure --add-module=/package/fastdfs-nginx-module-1.20/src/
make && make install

• 檢查nginx是否安裝成功

/usr/local/nginx/sbin/nginx -V

• 將配置文件拷貝不然瀏覽器無法訪問nginx

cp /package/fastdfs-5.11/conf/http.conf /etc/fdfs/
cp /package/fastdfs-5.11/conf/mime.types /etc/fdfs/

• 配置fastdfs-nginx-module客戶端

cd /package/fastdfs-nginx-module-1.20/src
cp mod_fastdfs.conf /etc/fdfs/
vim /etc/fdfs/mod_fastdfs.conf
# 調整如下配置
# 鏈接超時
connect_timeout=20
# 配置跟蹤器IP和端口
tracker_server=192.168.72.130:22122
# 路徑包含group
url_have_group_name = true
# 必須和storage配置相同
store_path0=/data/fastdfs/data

• 配置nginx

cd /usr/local/nginx/conf/
vim nginx.conf
# 修改如下
server {
    listen       80;
    
    location ~/group([0-9])/M00 {
        root /data/fastdfs/data;
        ngx_fastdfs_module;
    }
}

啟動nginx服務

## 啟動
/usr/local/nginx/sbin/nginx
## 停止
/usr/local/nginx/sbin/nginx -s stop
## 重啟
/usr/local/nginx/sbin/nginx -s reload

• 防火牆操作

systemctl status firewalld		 			#查看firewall防火牆狀態
firewall-cmd --list-ports					#查看firewall防火牆開放端口
systemctl start firewalld.service			#打開firewall防火牆
systemctl stop firewalld.service			#關閉firewall防火牆
firewall -cmd --reload						#重啟firewal防火牆

• 端口操作

ps -ef | grep nginx
從容停止Nginx：kill -QUIT 主進程號
快速停止Nginx：kill -TERM 主進程號
強制停止Nginx：kill -9 主進程號 
啟動:/usr/local/nginx/sbin/nginx
重啟：/app/nginx/sbin/nginx -s reload -c nginx.conf

開啟端口
firewall-cmd --zone=public --add-port=80/tcp --permanent

FastDFS擴展模塊特性

• 僅支持HTTP HEAD和GET
• 支持token方式的防盜鏈（缺省是關閉的）
• ts：生成token的時間（unix時間戳）
• token：32位的token字符串（md5簽名）
• 支持指定保存的缺省文件名，URL參數名為filename
• 支持斷點續傳

推薦的FastDFS部署方案

• 文件上傳和刪除等操作：使用FastDFS client API，目前提供了C、PHP extension和Java的client API
• 文件下載采用HTTP方式：使用nginx或者apache擴展模塊，不推薦使用FastDFS內置的web server
• 不要做RAID，直接掛載單盤，每個硬盤作為一個mount point

最大並發連接數設置

• 參數名：max_connections
• 缺省值：256
• 說明：FastDFS采用預先分配好buffer隊列的
  做法，分配的內存大小為：max_connections * buff_size，因此配置的連接數越大，消耗的內存越多。不建議配置得過大，以避免無謂的內存開銷。

工作線程數設置

• 參數名： work_threads
• 缺省值：4 • 說明：為了避免CPU上下文切換的開銷，以及不必要的資源消耗，不建議將本參數設置得過大。為了發揮出多個CPU的效能，系統中的線程數總和，應等於CPU總數。
• 對於tracker server，公式為：work_threads + 1 = CPU數 • 對於storage，公式為：
  work_threads + 1 + (disk_reader_threads + disk_writer_threads) * store_path_count = CPU數

storage目錄數設置

• 參數名：subdir_count_per_path
• 缺省值：256
• 說明：FastDFS采用二級目錄的做法，目錄會在FastDFS初始化時自動創建。存儲海量小文件，打開了trunk存儲方式的情況下，建議將本參數適當改小，比如設置為32，此時存放文件的目錄數為 32 * 32 = 1024。假如trunk文件大小采用缺省值64MB，磁盤空間為2TB，那么每個目錄下存放的trunk文件數均值為：2TB / (1024 * 64MB) = 32個

storage磁盤讀寫線程設置

• disk_rw_separated：磁盤讀寫是否分離
• disk_reader_threads：單個磁盤讀線程數
• disk_writer_threads：單個磁盤寫線程數
• 如果磁盤讀寫混合，單個磁盤讀寫線程數為讀線程數和寫線程數之后
• 對於單盤掛載方式，磁盤讀寫線程分別設置為1即可
• 如果磁盤做了RAID，那么需要酌情加大讀寫線程數，這樣才能最大程度地發揮磁盤性能

storage同步延遲相關設置

• sync_binlog_buff_interval：將binlog buffer寫入磁盤的時間間隔，取值大於0，缺省值為60s
• sync_wait_msec：如果沒有需要同步的文件，對binlog進行輪詢的時間間隔，取值大於0，缺省值為100ms
• sync_interval：同步完一個文件后，休眠的毫秒數，缺省值為0 • 為了縮短文件同步時間，可以將上述3個參數適當調小即可