NiFI介紹
NiFi(NiagaraFiles)是為了實現系統間數據流的自動化而構建的。雖然術語“數據流”用於各種上下文,但我們在此處使用它來表示系統之間的自動和管理信息流
文檔:http://nifi.apache.org/docs.html
NiFi架構
NiFI安裝
環境要求:a、需要Java 8或更高版本
b、支持的操作系統:Linux、Unix、Windows、Mac OS X
1、下載安裝包
命令:wget -b http://mirror.bit.edu.cn/apache/nifi/1.8.0/nifi-1.8.0-bin.tar.gz
2、解壓安裝包、即可使用
命令:tar -zxvf nifi-1.8.0-bin.tar.gz
目錄如下:
3、配置文件( nifi-1.8.0/conf/nifi.properties )、可以使用默認配置,根據自己情況進行修改
4、操作NIFI,啟動的時候,比較慢,注意機器內存是否足夠
后台啟動命令:./bin/nifi.sh start
前端啟動命令:./bin/nifi.sh run
關閉命令:./bin/nifi.sh stop
首次啟動NiFi時,會創建以下文件和目錄:
-
-
content_repository
-
database_repository
-
flowfile_repository
-
provenance_repository
-
work
目錄 -
logs
目錄 -
在
conf
目錄中,將創建flow.xml.gz文件
-
5、啟動后,使用瀏覽器進行訪問,地址:http://ip:8080/nifi
NIFI簡單使用
不理解NIFI是做什么的,看一個簡單的例子(同步文件夾)吧,幫助理解
1、從工具欄中拖入一個Processor,在彈出面板中搜索GetFIle,然后確認
2、配置GetFile,設置結束關系、輸入目錄、保留源文件,其他設置可以不動,輸入目錄中有文件:file.txt(內容為abc)。
3、從工具欄中拖入一個Processor,在彈出面板中搜索PutFIle,然后確認,如第一步
4、配置PutFile,設置結束關系、輸出目錄,其他設置可以不動,輸出目錄為空文件夾
5、將GetFIle與PutFIle關聯起來,從GetFIle中心點擊,拖拉到PutFIle上
6、右鍵啟動GetFIle與PutFIle,可以看到結果,輸入目錄中的文件同步到,輸出目錄中了
注意:操作過程中,注意錯誤排查
1、Processor上的警告
2、Processor上的錯誤