1 搭建K8s環境平台規划
1.1 單master集群
1.2 多master集群
2 服務器硬件配置要求
在開始部署k8s集群之前，服務器需要滿足以下條件：
- 一台或多台服務器，操作系統CentOS 7.x-86_x64；
- 硬盤配置：內存2GB或更多，CPU2核或更多，硬盤30GB或更多；
- 集群中的所有機器之間網絡互通；
- 可以訪問外網，需要拉取鏡像；
- 禁止swap分區。
3 搭建k8s集群部署方式
目前生產部署k8s集群主要有兩種方式：
- kubeadm（新手推薦，本文采用kubeadm）
- kubeadm是一個k8s部署工具，提供kubeadmin init和kubeadm join，用於快速部署k8s集群。
- 官網地址：https://kubernetes.io/docs/reference/setup-tools/kubeadm/
- 二級制包
- 從GitHub下載發行版的二進制包，手動部署每個組件，組成k8s集群。
kubeadm降低部署門檻，但是屏蔽了很多細節，遇到問題很難排查，如果想要更容易可控，推薦使用二級制包部署k8s集群，雖然手動部署麻煩點，期間可以學習很多工作原理，也有利於后期維護。
4 采用“kubeadm”搭建k8s集群
4.1 概述
kubeadm是官方社區推出的一個用於快速部署k8s集群的工具，這個工具能通過兩個命令快速搭建master環境和加入master集群。
4.2 准備環境
|
角色
|
IP
|
|---|---|
| k8s-master | 172.20.80.254 |
| k8s-node1 | 172.20.161.245 |
| k8s-node2 | 172.20.165.125 |
4.3 系統初始化
4.3.0 先他媽yum update一下，別問為什么，問就是坑
4.3.1 關閉防火牆（所有節點）
- 關閉防火牆
systemctl stop firewalld
|
- 禁止防火牆開機自啟
systemctl disable firewalld
|
4.3.2 關閉selinux（所有節點）
- 永久關閉
# 永久
sed
-i
's/enforcing/disabled/'
/etc/selinux/config
|
# 重啟
reboot
|
- 臨時關閉（不建議使用這條命令）
# 臨時
setenforce 0
|
4.3.3 關閉swap分區（所有節點）
- 永久關閉swap分區
# 永久
sed
-ri
's/.*swap.*/#&/'
/etc/fstab
|
# 重啟
reboot
|
- 臨時關閉swap分區（不建議使用這條命令）
swapoff -a
|
4.3.4 配置主機名（所有節點）
- 設置主機名
hostnamectl
set
-
hostname
<
hostname
>
|
- 設置master的主機名
hostnamectl
set
-
hostname
k8s-master
|
- 設置node1的主機名
hostnamectl
set
-
hostname
k8s-node1
|
- 設置node2的主機名
hostnamectl
set
-
hostname
k8s-node2
|
4.3.5 配置hosts文件（所有節點）
- 在每個節點添加hosts
cat
>>
/etc/hosts
<< EOF
172.20.80.254 k8s-master
172.20.161.245 k8s-node1
172.20.165.125 k8s-node2
EOF
|
4.3.6 將橋接的IPv4流量傳遞到iptables的鏈（所有節點）
- 在每個節點添加h如下的命令
cat
>
/etc/sysctl
.d
/k8s
.conf << EOF
net.bridge.bridge-nf-call-ip6tables = 1
net.bridge.bridge-nf-call-iptables = 1
net.ipv4.ip_forward = 1
EOF
|
# 加載br_netfilter模塊
modprobe br_netfilter
|
# 查看是否加載
lsmod |
grep
br_netfilter
|
# 生效
sysctl --system
|
4.3.7 配置時間同步（所有節點）
- 在每個節點添加h如下的命令
yum
install
ntpdate -y
|
ntpdate
time
.windows.com
|
4.3.8 開啟ipvs（所有節點）
- 在每個節點安裝ipset和ipvsadm
yum -y
install
ipset ipvsadm
|
- 在所有節點執行如下腳本
cat
>
/etc/sysconfig/modules/ipvs
.modules <<EOF
#!/bin/bash
modprobe -- ip_vs
modprobe -- ip_vs_rr
modprobe -- ip_vs_wrr
modprobe -- ip_vs_sh
modprobe -- nf_conntrack_ipv4
EOF
|
- 授權、運行、檢查是否加載
chmod
755
/etc/sysconfig/modules/ipvs
.modules &&
bash
/etc/sysconfig/modules/ipvs
.modules && lsmod |
grep
-e ip_vs -e nf_conntrack_ipv4
|
- 檢查是否加載
lsmod |
grep
-e ipvs -e nf_conntrack_ipv4
|
4.4 所有節點安裝Docker/kubeadm/kubelet/kubectl
4.4.1 概述
- k8s默認CRI（容器運行時）為Docker，因此需要先安裝Docker。
4.4.2 安裝Docker
- 安裝Docker
wget https:
//mirrors
.aliyun.com
/docker-ce/linux/centos/docker-ce
.repo -O
/etc/yum
.repos.d
/docker-ce
.repo
|
yum -y
install
docker-ce-18.06.3.ce-3.el7
|
systemctl
enable
docker && systemctl start docker
|
docker version
|
- 設置Docker鏡像加速器，同時指定docker的cgroupdriver為systemd，這個systemd很重要，docker和k8s的cgroup driver必須一致，否則無法安裝
sudo
mkdir
-p
/etc/docker
|
sudo
tee
/etc/docker/daemon
.json <<-
'EOF'
{
"exec-opts"
: [
"native.cgroupdriver=systemd"
],
}
EOF
|
sudo
systemctl daemon-reload
|
sudo
systemctl restart docker
|
4.4.3 添加阿里雲的YUM軟件源 (如果k8s的源無法外網訪問，請移步到：當服務器無法連接外網時如何處理 中的下載k8s源 步驟)
cat
>
/etc/yum
.repos.d
/kubernetes
.repo << EOF
[kubernetes]
name=Kubernetes
baseurl=https:
//mirrors
.aliyun.com
/kubernetes/yum/repos/kubernetes-el7-x86_64
enabled=1
gpgcheck=0
repo_gpgcheck=0
gpgkey=https:
//mirrors
.aliyun.com
/kubernetes/yum/doc/yum-key
.gpg https:
//mirrors
.aliyun.com
/kubernetes/yum/doc/rpm-package-key
.gpg
EOF
|
4.4.4 安裝kubeadm、kubelet和kubectl
- 由於版本更新頻繁，這里指定版本號部署
yum
install
-y kubelet-1.18.0 kubeadm-1.18.0 kubectl-1.18.0
|
- 為了實現Docker使用的cgroup driver和kubelet使用的cgroup drver一致，建議修改"/etc/sysconfig/kubelet"文件的內容：
vim
/etc/sysconfig/kubelet
|
# 修改
KUBELET_EXTRA_ARGS=
"--cgroup-driver=systemd"
|
- 設置為開機自啟動即可，由於沒有生成配置文件，集群初始化后自動啟動：
systemctl
enable
kubelet
|
4.5 部署k8s的Master節點
- 部署k8s的Master節點（172.20.80.254）：
# 由於默認拉取鏡像地址k8s.gcr.io國內無法訪問，這里需要指定阿里雲鏡像倉庫地址
kubeadm init \
--apiserver-advertise-address=172.20.80.254 \
--image-repository registry.aliyuncs.com
/google_containers
\
--kubernetes-version v1.18.0 \
--service-cidr=10.96.0.0
/12
\
--pod-network-cidr=10.244.0.0
/16
|
- 請將圖中 kubeadm join.... 這兩行話拷貝下來，后面node加入集群時要用
- 根據提示信息，在Master節點上使用kubectl工具：
mkdir
-p $HOME/.kube
sudo
cp
-i
/etc/kubernetes/admin
.conf $HOME/.kube
/config
sudo
chown
$(
id
-u):$(
id
-g) $HOME/.kube
/config
|
4.6 添加k8s的Node節點
- 在172.20.161.245（k8s-node1)和172.20.165.125上添加如下的命令（該命令為上一步拷貝下來的命令）
# 向k8s集群中添加Node節點
kubeadm
join
172.20.80.254:6443 --token 4016im.eg4e10yamcbxjm59 \
--discovery-token-ca-cert-
hash
sha256:ce2111ce594e5189255144a72268250e5eedda87470cc3a1f69f8c973927699e
|
- 默認的token有效期為24小時，當過期之后，該token就不能用了，這時可以使用如下命令創建token：
kubeadm token create --print-
join
-
command
|
# 生成一個永不過期的token
kubeadm token create --ttl 0
|
4.6.1 番外篇之刪除節點（非必須勿用）
注意：以下操作都是在master下操作。
- 先將節點設置為維護模式(k8s-node1是節點名稱)
kubectl drain k8s-node1 --delete-
local
-data --force --ignore-daemonsets node
/k8s-node1
|
- 刪除節點
kubectl delete node k8s-node1
|
- 確認是否已刪除
kubectl get nodes
|
4.7 部署CNI網絡插件
- 根據提示，在Master節點使用kubectl工具查看節點狀態：
kubectl get nodes
|
- 在Master節點部署CNI網絡插件(可能會失敗，如果失敗，請下載到本地，然后安裝，如果wget也不行，請將網址拷貝到你自己的電腦上下載，下載完畢后將yml文件再傳到服務器上，可以使用scp命令（見下圖中的scp命令使用）
wget https:
//raw
.githubusercontent.com
/coreos/flannel/master/Documentation/kube-flannel
.yml
|
kubectl apply -f https:
//raw
.githubusercontent.com
/coreos/flannel/master/Documentation/kube-flannel
.yml
|
- 查看部署CNI網絡插件進度：
kubectl get pods -n kube-system
|
- 再次在Master節點使用kubectl工具查看節點狀態：
kubectl get nodes
|
- 查看集群健康狀態：
kubectl get cs
|
kubectl cluster-info
|
