開始之前:
關於ES單機服務的部署, 可參考博文: ES 02 - 部署Elasticsearch單機服務 + 部署中的常見問題
關於集群的服務配置建議, 可以參考上一篇博文: ES 30 - Elasticsearch生產集群的服務器配置建議
1 配置環境
1.1 服務器IP映射
配置服務器IP地址與主機名稱的映射, 方便維護與遷移.
服務器IP 映射的主機名 172.16.22.131 es-1 172.16.22.132 es-2 172.16.22.133 es-3 依次編輯三台服務器的
/etc/hosts文件, 添加映射內容:[root@localhost ~]# vim /etc/hosts # 添加下述內容: 172.16.22.131 es-1 172.16.22.132 es-2 172.16.22.133 es-3
1.2 配置各節點的ssh免密通信
Elasticsearch集群中各個節點之間需要通信, 配置免密通信是必須的.
參考博文 Linux - 配置SSH免密登錄 - “ssh-keygen”的基本用法 完成相關免密通信的配置.
1.3 安裝JDK並配置環境變量
學習使用ES的前提是成功安裝JDK —— 很基礎的一項步驟, 這里省略.
此處學習演示所用的JDK版本為:
[root@localhost ~]# java -version
java version "1.8.0_151"
Java(TM) SE Runtime Environment (build 1.8.0_151-b12)
Java HotSpot(TM) 64-Bit Server VM (build 25.151-b12, mixed mode)
2 部署單節點服務
請參照博文 ES 02 - 部署Elasticsearch單機服務 + 部署中的常見問題 進行操作, 如果過程中遇到不可知的問題, 可在評論區留言, 博主會在看到后的第一時間回復.
與部署單機服務不同的地方 —— 修改配置文件/data/elk-6.6.0/es-node/config/elasticsearch.yml:
# 大約17行, 修改集群名稱, 同一個集群中此名稱必須相同, 才能組成一個邏輯集群:
cluster.name: heal_es
# 大約23行, 修改節點名稱, 可以設置為與主機名稱相同:
node.name: es-1
# 大約55行, 指定可通過外部服務器訪問本地ES服務:
network.host: 0.0.0.0
# 並指定訪問的端口號, 默認是9200, 為了防止沖突, 這里修改為9301:
http.port: 9301
# 大約68行, 指定初始的主機列表, 用來在新節點啟動時執行發現功能:
discovery.zen.ping.unicast.hosts: ["es-1", "es-2", "es-3"]
注意: 修改完配置后, 先不要啟動服務, 所有節點中的安裝包都整理完畢, 再依次啟動.
—— 因為ES服務一旦啟動, 就會在${ES_HOME}/data/下生成集群數據, 包括節點id、節點鎖(node lock)等, 不同節點的這些數據都不同, 如果相同則會導致啟動異常.
3 部署集群服務
(1) 將配置好的安裝包分發到節點es-2和es-3上:
# 切換回root用戶
[elastic@localhost data]$ su root
Password:
# 輸入密碼后, 分發安裝包:
[root@localhost data]# scp -r elk-6.6.0/ es-2:/data
[root@localhost data]# scp -r elk-6.6.0/ es-3:/data
(2) 向es-2和es-3中添加elastic用戶和組, 並修改文件權限:
[root@localhost data]# useradd elastic -s /bin/bash
[root@localhost data]# chown -R elastic:elastic /data/elk-6.6.0/
(3) 修改es-2和es-3節點的配置文件:
同樣的, 修改elasticsearch.yml文件, 這時只修改node名稱即可:
[root@localhost ~]# vim /data/elk-6.6.0/es-node/config/elasticsearch.yml
# 大約23行, 修改節點名稱, 可以設置為與主機名稱相同. 分別修改為es-2和es-3
node.name: es-...
(4) 如有必要-刪除從es-1拷貝而來的data目錄下的文件:
如果在從es-1節點分發安裝包時, 已經啟動了es-1上的ES服務, 那么還要刪除es-2和es-3節點中${ES_HOME}/data/下的所有文件, 防止后續啟動失敗.
4 啟動集群中的所有節點
4.2 啟動各個節點中的ES服務
啟動順序沒有要求:
# 切換為elastic用戶:
[root@localhost ~]# su elastic
# 進入到啟動命令所在的目錄:
[elastic@localhost root]$ cd /data/elk-6.6.0/es-node/bin/
# 后台啟動服務:
[elastic@localhost bin]$ sh elasticsearch -d
4.2 查看集群狀態
(1) 只啟動一個節點時的集群狀態:
(2) 啟動全部節點后的集群狀態:
5 常見問題及解決方法
5.1 新節點不能加入集群
(1) 問題描述:
啟動集群中的第二、三個節點時可能出現下述異常中的一種:
① 獲取node lock失敗:
[2019-06-24T22:04:06,665][WARN ][o.e.b.ElasticsearchUncaughtExceptionHandler] [es-3] uncaught exception in thread [main] org.elasticsearch.bootstrap.StartupException: java.lang.IllegalStateException: failed to obtain node locks, tried [[/data/elk-6.6.0/es-node/data]] with lock id [0]; maybe these locations are not writable or multiple nodes were started without increasing [node.max_local_storage_nodes] (was [1])? at org.elasticsearch.bootstrap.Elasticsearch.init(Elasticsearch.java:163) ~[elasticsearch-6.6.0.jar:6.6.0] at org.elasticsearch.bootstrap.Elasticsearch.execute(Elasticsearch.java:150) ~[elasticsearch-6.6.0.jar:6.6.0] at org.elasticsearch.cli.EnvironmentAwareCommand.execute(EnvironmentAwareCommand.java:86) ~[elasticsearch-6.6.0.jar:6.6.0] at org.elasticsearch.cli.Command.mainWithoutErrorHandling(Command.java:124) ~[elasticsearch-cli-6.6.0.jar:6.6.0] at org.elasticsearch.cli.Command.main(Command.java:90) ~[elasticsearch-cli-6.6.0.jar:6.6.0] at org.elasticsearch.bootstrap.Elasticsearch.main(Elasticsearch.java:116) ~[elasticsearch-6.6.0.jar:6.6.0] at org.elasticsearch.bootstrap.Elasticsearch.main(Elasticsearch.java:93) ~[elasticsearch-6.6.0.jar:6.6.0] ... 6 more
② 加入集群的請求發送失敗:
# 節點[es-3]向master節點[es-1]發送加入集群的請求失敗. [es-3] failed to send join request to master [{es-1}{jcmbr9dgRgaAWUE7xq5xAw}{wxvCc19lQvmc3xmcRHdbqA}{172.16.22.131}{172.16.22.131:9300}{ml.machine_memory=134908342272, ml.max_open_jobs=20, xpack.installed=true, ml.enabled=true}], reason [RemoteTransportException[[es-1][172.16.22.131:9300][internal:discovery/zen/join]]; # 內部原因是: 節點id相同, 但並不是同一個節點實例. nested: IllegalArgumentException[can't add node {es-3}{jcmbr9dgRgaAWUE7xq5xAw}{WXjlsD1zTWCm6YaWAAUoOg}{172.16.22.133}{172.16.22.133:9300}{ml.machine_memory=135220408320, ml.max_open_jobs=20, xpack.installed=true, ml.enabled=true}, found existing node {es-1}{jcmbr9dgRgaAWUE7xq5xAw}{wxvCc19lQvmc3xmcRHdbqA}{172.16.22.131}{172.16.22.131:9300}{ml.machine_memory=134908342272, xpack.installed=true, ml.max_open_jobs=20, ml.enabled=true} with the same id but is a different node instance]; ]
(2) 問題分析:
節點二、三的安裝包都是從節點一分發而來的, 由於分發時節點一已經啟動, 其${ES_HOME}/data/目錄下已生成node相關的數據, 這些數據應該由當前節點自動生成, 不能共用. 如果這些數據相同就會出現上述異常.
(3) 問題解決:
刪除節點二、三的數據目錄${ES_HOME}/data/下的所有文件, 然后重新啟動即可.
5.2 反序列化失敗
(1) 問題說明:
節點啟動過程中拋出如下錯誤:
org.elasticsearch.transport.RemoteTransportException: Failed to deserialize exception response from stream
(2) 問題分析:
各個Elasticsearch節點中的服務所使用的JDK版本不一致, 在 ES 30 - Elasticsearch生產集群的服務器配置建議 的第5節5 JVM的參數配置中有相關說明:
ES中用到了很多與JVM版本相關的特性, 比如本地序列化機制 (包括IP地址、異常信息等等), 而JVM在不同的minor版本中可能會修改序列化機制, 版本不同可能會導致序列化異常.
(3) 問題解決:
更換JDK版本, 並更新環境變量配置, 保證各節點使用的JDK版本一致.
5.3 其他問題
更多問題可以參考博文: ES 02 - 部署Elasticsearch單機服務 + 常見問題的解決 中第5節內容5 常見問題及解決方法.
版權聲明
出處: 博客園 馬瘦風的博客(https://www.cnblogs.com/shoufeng)
感謝閱讀, 如果文章有幫助或啟發到你, 點個[好文要頂👆] 或 [推薦👍] 吧😜
本文版權歸博主所有, 歡迎轉載, 但 [必須在文章頁面明顯位置標明原文鏈接], 否則博主保留追究相關人員法律責任的權利.