etcd介紹


go操作etcd

etcd是近幾年比較火熱的一個開源的、分布式的鍵值對數據存儲系統,提供共享配置、服務的注冊和發現,本文主要介紹etcd的安裝和使用。

etcd

etcd介紹

etcd是使用Go語言開發的一個開源的、高可用的分布式key-value存儲系統,可以用於配置共享和服務的注冊和發現。

類似項目有zookeeper和consul。

etcd具有以下特點:

  • 完全復制:集群中的每個節點都可以使用完整的存檔
  • 高可用性:Etcd可用於避免硬件的單點故障或網絡問題
  • 一致性:每次讀取都會返回跨多主機的最新寫入
  • 簡單:包括一個定義良好、面向用戶的API(gRPC)
  • 安全:實現了帶有可選的客戶端證書身份驗證的自動化TLS
  • 快速:每秒10000次寫入的基准速度
  • 可靠:使用Raft算法實現了強一致、高可用的服務存儲目錄

etcd應用場景

服務發現

服務發現要解決的也是分布式系統中最常見的問題之一,即在同一個分布式集群中的進程或服務,要如何才能找到對方並建立連接。本質上來說,服務發現就是想要了解集群中是否有進程在監聽 udp 或 tcp 端口,並且通過名字就可以查找和連接。

img

配置中心

將一些配置信息放到 etcd 上進行集中管理。

這類場景的使用方式通常是這樣:應用在啟動的時候主動從 etcd 獲取一次配置信息,同時,在 etcd 節點上注冊一個 Watcher 並等待,以后每次配置有更新的時候,etcd 都會實時通知訂閱者,以此達到獲取最新配置信息的目的。

分布式鎖

因為 etcd 使用 Raft 算法保持了數據的強一致性,某次操作存儲到集群中的值必然是全局一致的,所以很容易實現分布式鎖。鎖服務有兩種使用方式,一是保持獨占,二是控制時序。

  • 保持獨占即所有獲取鎖的用戶最終只有一個可以得到。etcd 為此提供了一套實現分布式鎖原子操作 CAS(CompareAndSwap)的 API。通過設置prevExist值,可以保證在多個節點同時去創建某個目錄時,只有一個成功。而創建成功的用戶就可以認為是獲得了鎖。
  • 控制時序,即所有想要獲得鎖的用戶都會被安排執行,但是獲得鎖的順序也是全局唯一的,同時決定了執行順序。etcd 為此也提供了一套 API(自動創建有序鍵),對一個目錄建值時指定為POST動作,這樣 etcd 會自動在目錄下生成一個當前最大的值為鍵,存儲這個新的值(客戶端編號)。同時還可以使用 API 按順序列出所有當前目錄下的鍵值。此時這些鍵的值就是客戶端的時序,而這些鍵中存儲的值可以是代表客戶端的編號。

img

為什么用 etcd 而不用ZooKeeper?

etcd 實現的這些功能,ZooKeeper都能實現。那么為什么要用 etcd 而非直接使用ZooKeeper呢?

為什么不選擇ZooKeeper?

  1. 部署維護復雜,其使用的Paxos強一致性算法復雜難懂。官方只提供了JavaC兩種語言的接口。
  2. 使用Java編寫引入大量的依賴。運維人員維護起來比較麻煩。
  3. 最近幾年發展緩慢,不如etcdconsul等后起之秀。

為什么選擇etcd?

  1. 簡單。使用 Go 語言編寫部署簡單;支持HTTP/JSON API,使用簡單;使用 Raft 算法保證強一致性讓用戶易於理解。
  2. etcd 默認數據一更新就進行持久化。
  3. etcd 支持 SSL 客戶端安全認證。

最后,etcd 作為一個年輕的項目,正在高速迭代和開發中,這既是一個優點,也是一個缺點。優點是它的未來具有無限的可能性,缺點是無法得到大項目長時間使用的檢驗。然而,目前 CoreOSKubernetesCloudFoundry等知名項目均在生產環境中使用了etcd,所以總的來說,etcd值得你去嘗試。

etcd集群

etcd 作為一個高可用鍵值存儲系統,天生就是為集群化而設計的。由於 Raft 算法在做決策時需要多數節點的投票,所以 etcd 一般部署集群推薦奇數個節點,推薦的數量為 3、5 或者 7 個節點構成一個集群。

搭建一個3節點集群示例:

在每個etcd節點指定集群成員,為了區分不同的集群最好同時配置一個獨一無二的token。

下面是提前定義好的集群信息,其中n1n2n3表示3個不同的etcd節點。

TOKEN=token-01
CLUSTER_STATE=new
CLUSTER=n1=http://10.240.0.17:2380,n2=http://10.240.0.18:2380,n3=http://10.240.0.19:2380

n1這台機器上執行以下命令來啟動etcd:

etcd --data-dir=data.etcd --name n1 \
	--initial-advertise-peer-urls http://10.240.0.17:2380 --listen-peer-urls http://10.240.0.17:2380 \
	--advertise-client-urls http://10.240.0.17:2379 --listen-client-urls http://10.240.0.17:2379 \
	--initial-cluster ${CLUSTER} \
	--initial-cluster-state ${CLUSTER_STATE} --initial-cluster-token ${TOKEN}

n2這台機器上執行以下命令啟動etcd:

etcd --data-dir=data.etcd --name n2 \
	--initial-advertise-peer-urls http://10.240.0.18:2380 --listen-peer-urls http://10.240.0.18:2380 \
	--advertise-client-urls http://10.240.0.18:2379 --listen-client-urls http://10.240.0.18:2379 \
	--initial-cluster ${CLUSTER} \
	--initial-cluster-state ${CLUSTER_STATE} --initial-cluster-token ${TOKEN}

n3這台機器上執行以下命令啟動etcd:

etcd --data-dir=data.etcd --name n3 \
	--initial-advertise-peer-urls http://10.240.0.19:2380 --listen-peer-urls http://10.240.0.19:2380 \
	--advertise-client-urls http://10.240.0.19:2379 --listen-client-urls http://10.240.0.19:2379 \
	--initial-cluster ${CLUSTER} \
	--initial-cluster-state ${CLUSTER_STATE} --initial-cluster-token ${TOKEN}

etcd 官網提供了一個可以公網訪問的 etcd 存儲地址。你可以通過如下命令得到 etcd 服務的目錄,並把它作為-discovery參數使用。

curl https://discovery.etcd.io/new?size=3
https://discovery.etcd.io/a81b5818e67a6ea83e9d4daea5ecbc92

# grab this token
TOKEN=token-01
CLUSTER_STATE=new
DISCOVERY=https://discovery.etcd.io/a81b5818e67a6ea83e9d4daea5ecbc92


etcd --data-dir=data.etcd --name n1 \
	--initial-advertise-peer-urls http://10.240.0.17:2380 --listen-peer-urls http://10.240.0.17:2380 \
	--advertise-client-urls http://10.240.0.17:2379 --listen-client-urls http://10.240.0.17:2379 \
	--discovery ${DISCOVERY} \
	--initial-cluster-state ${CLUSTER_STATE} --initial-cluster-token ${TOKEN}


etcd --data-dir=data.etcd --name n2 \
	--initial-advertise-peer-urls http://10.240.0.18:2380 --listen-peer-urls http://10.240.0.18:2380 \
	--advertise-client-urls http://10.240.0.18:2379 --listen-client-urls http://10.240.0.18:2379 \
	--discovery ${DISCOVERY} \
	--initial-cluster-state ${CLUSTER_STATE} --initial-cluster-token ${TOKEN}


etcd --data-dir=data.etcd --name n3 \
	--initial-advertise-peer-urls http://10.240.0.19:2380 --listen-peer-urls http://10.240.0.19:2380 \
	--advertise-client-urls http://10.240.0.19:2379 --listen-client-urls http:/10.240.0.19:2379 \
	--discovery ${DISCOVERY} \
	--initial-cluster-state ${CLUSTER_STATE} --initial-cluster-token ${TOKEN}

到此etcd集群就搭建起來了,可以使用etcdctl來連接etcd。

export ETCDCTL_API=3
HOST_1=10.240.0.17
HOST_2=10.240.0.18
HOST_3=10.240.0.19
ENDPOINTS=$HOST_1:2379,$HOST_2:2379,$HOST_3:2379

etcdctl --endpoints=$ENDPOINTS member list

安裝

下載

去官方的GitHub下載最新版本的etcd。https://github.com/etcd-io/etcd/releases

以最新版本為例,打開上面的鏈接將頁面向下滑動,直到看到類似下面的內容:

image-20210911220002559

根據自己的平台下載對應的文件。

Windows平台

下載[etcd-v3.5.0-windows-amd64]([https://github-releases.githubusercontent.com/11225014/9ed84a80-ce07-11eb-9659-66045aa7d054?X-Amz-Algorithm=AWS4-HMAC-SHA256&X-Amz-Credential=AKIAIWNJYAX4CSVEH53A%2F20210911%2Fus-east-1%2Fs3%2Faws4_request&X-Amz-Date=20210911T091128Z&X-Amz-Expires=300&X-Amz-Signature=615673fe11b178fea4e0fde26d89ff2d](https://github-releases.githubusercontent.com/11225014/9ed84a80-ce07-11eb-9659-66045aa7d054?X-Amz-Algorithm=AWS4-HMAC-SHA256&X-Amz-Credential=AKIAIWNJYAX4CSVEH53A%2F20210911%2Fus-east-1%2Fs3%2Faws4_request&X-Amz-Date=20210911T091128Z&X-Amz-Expires=300&X-Amz-Signature=615673fe11b178fea4e0fde26d89ff2d202bb0a3c3bd9b08e5177cc3bc6d8e88&X-Amz-SignedHeaders=host&actor_id=0&key_id=0&repo_id=11225014&response-content-disposition=attachment%3B filename%3Detcd-v3.5.0-windows-amd64.zip&response-content-type=application%2Foctet-stream))文件到本地。然后解壓得到如下文件:

image-20210911220226120

雙擊etcd.exe就是啟動了etcd。其他平台解壓之后在bin目錄下找etcd可執行文件。

image-20210911220600395

默認會在2379端口監聽客戶端通信,在2380端口監聽節點間通信。

image-20210911220459520

etcdctl.exe可以理解為一個客戶端或本機etcd的控制端。

Mac平台

方法一:下載etcd-v3.3.13-darwin-amd64.zip,解壓即可。

方法二:brew install etcd

Linux平台

下載etcd-v3.3.13-linux-arm64.tar.gz,解壓即可。

連接etcd客戶端

注意:

默認的etcdctrl使用的時v2版本的命令。

我們需要設置環境變量ETCDCTL_API=3來使用v3版本的API,而默認的也就是環境變量為 ETCDCTL_API=2是使用v2版本的API。

修改環境變量指定使用API的版本

Windows平台

set ETCDCTL_API=3

image-20210911220746150

Mac&Linux平台

export ETCDCTL_API=3

簡單使用

添加數據put

./etcdctl --endpoints=http://127.0.0.1:2379 put nick "dsb"
image-20210911220925015

獲取數據get

./etcdctl.exe --endpoints=http://127.0.0.1:2379 get nick

image-20210911221053605


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM