安裝Kubernetes V1.18.2
准備虛擬機環境
(如果你使用VirtualBox搭建虛擬機集群,請確保hostname -i可以返回一個路由可達的IP,否則請修改虛擬機的hosts文件)
設置系統
#關閉防火牆(所有節點)
systemctl disable firewalld
systemctl stop firewalld
#關閉SELINUX(所有節點)
setenforce 0
sed -i 's/^SELINUX=enforcing$/SELINUX=permissive/' /etc/selinux/config
#設置iptables(所有節點)
cd /etc/sysctl.d/
cat <<EOF > /etc/sysctl.d/k8s.conf
net.bridge.bridge-nf-call-ip6tables = 1
net.bridge.bridge-nf-call-iptables = 1
EOF
sysctl --system
#關閉swap分區(所有節點)
vi /etc/fstab
# /dev/mapper/centos-swap swap swap defaults 0 0
swapoff -a
安裝Docker
#在所有節點上安裝
cd /etc/yum.repos.d/
yum-config-manager --add-repo http://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo
yum -y install docker-ce
#開機啟動Docker
systemctl start docker
systemctl enable docker
安裝kubernetes
#在所有節點上安裝
cat <<EOF > /etc/yum.repos.d/kubernetes.repo
[kubernetes]
name=Kubernetes
baseurl=http://mirrors.aliyun.com/kubernetes/yum/repos/kubernetes-el7-x86_64
enabled=1
gpgcheck=0
repo_gpgcheck=0
gpgkey=http://mirrors.aliyun.com/kubernetes/yum/doc/yum-key.gpg
http://mirrors.aliyun.com/kubernetes/yum/doc/rpm-package-key.gpg
EOF
yum install -y kubelet kubeadm kubectl --disableexcludes=kubernetes
#開機啟動kubelet
systemctl enable kubelet
初始化K8S的Master節點
#初始化(要增加registry.aliyuncs.com/google_containers才能下載google的鏡像文件,初始化時要下載鏡像文件要耐心的等)
kubeadm init --kubernetes-version=v1.18.2 --image-repository=registry.aliyuncs.com/google_containers --apiserver-advertise-address=192.168.122.3 --pod-network-cidr=10.244.0.0/16 --service-cidr=10.1.0.0/16
#按照成功安裝后的提示執行
mkdir -p $HOME/.kube
sudo cp -i /etc/kubernetes/admin.conf $HOME/.kube/config
sudo chown $(id -u):$(id -g) $HOME/.kube/config
- apiserver-advertise-address:是Master節點上的管理API地址。
- pod-network-cidr:是pod的網絡IP段,用於k8s的pod通信。
- service-cidr:是服務的虛IP網絡段,用於使用服務資源。
Node節點加入K8S集群
#從Master安裝成功提示中找到下面命令,在所有Node節點上執行
kubeadm join 192.168.122.3:6443 --token t0ie01.1ya3iwrt0uofx45p \
--discovery-token-ca-cert-hash sha256:14e36c483bb8180e740e953c8141d4e747a19e325a09007c675ba8fc64a95e27
在Master節點上安裝flannel網絡
kubectl apply -f https://raw.githubusercontent.com/coreos/flannel/master/Documentation/kube-flannel.yml
查看安裝結果
#查看所有pod
kubectl get pod -A
#查看所有NODE
kubectl get node -A
此版本可能會遇到的問題
首先安裝一個檢查coredns的pod:
vi ndsutils.yaml
apiVersion: v1
kind: Pod
metadata:
name: dnsutils
spec:
containers:
- name: dnsutils
image: mydlqclub/dnsutils:1.3
imagePullPolicy: IfNotPresent
command: ["sleep","3600"]
kubectl create -f ndsutils.yaml -n kube-system
進入容器進行測試:
kubectl exec -it dnsutils /bin/sh -n kube-system
#檢查外網DNS解析和外網的網絡連通性
ping www.baidu.com
#檢查內網DNS解析和內網的網絡連通性
ping kubernetes.default
#檢查DNS解析情況
nslookup kubernetes.default
#檢查虛IP的連通性
ping 10.1.0.1
解決CLUSTER-IP不能ping,連接不通的問題
我發現的問題是CLUSTER-IP不能ping,此問題用修改kube-proxy為 ipvs模式的方案解決。
kubectl edit cm kube-proxy -n kube-system
將mode修改為ipvs:
ipvs:
excludeCIDRs: null
minSyncPeriod: 0s
scheduler: ""
strictARP: false
syncPeriod: 0s
tcpFinTimeout: 0s
tcpTimeout: 0s
udpTimeout: 0s
kind: KubeProxyConfiguration
metricsBindAddress: ""
mode: "ipvs" #修改
nodePortAddresses: null
oomScoreAdj: null
portRange: ""
showHiddenMetricsForVersion: ""
添加ip_vs相關模塊:
#添加ip_vs模塊
cat > /etc/sysconfig/modules/ipvs.modules <<EOF
#!/bin/bash
modprobe -- ip_vs
modprobe -- ip_vs_rr
modprobe -- ip_vs_wrr
modprobe -- ip_vs_sh
modprobe -- nf_conntrack_ipv4
EOF
chmod 755 /etc/sysconfig/modules/ipvs.modules && bash /etc/sysconfig/modules/ipvs.modules && lsmod | grep -e ip_vs -e nf_conntrack_ipv4
#重啟kube-proxy 的pod
kubectl get pod -n kube-system | grep kube-proxy |awk '{system("kubectl delete pod "$1" -n kube-system")}'
CLUSTER-IP的問題解決但IPVS引發了新的問題。
解決使用IPVS導致CoreDNS無法解析域名的問題
重啟服務器,重新測試后發現,內外網都域名無法解析,原因是這個版本的K8S使用IPVS模塊比較新,但CentOS系統內核的IPVS模塊比較老導致,采用更新內核的辦法解決(所有節點服務器):
#載入公鑰
rpm --import https://www.elrepo.org/RPM-GPG-KEY-elrepo.org
#安裝 ELRepo 最新版本
yum install -y https://www.elrepo.org/elrepo-release-7.el7.elrepo.noarch.rpm
#列出可以使用的 kernel 包版本
yum list available --disablerepo=* --enablerepo=elrepo-kernel
#安裝指定的 kernel 版本:
yum install -y kernel-lt-4.4.223-1.el7.elrepo --enablerepo=elrepo-kernel
#查看系統可用內核
cat /boot/grub2/grub.cfg | grep menuentry
menuentry 'CentOS Linux (4.4.223-1.el7.elrepo.x86_64) 7 (Core)'
menuentry 'CentOS Linux (3.10.0-1127.el7.x86_64) 7 (Core)'
#設置開機從新內核啟動
grub2-set-default "CentOS Linux (4.4.223-1.el7.elrepo.x86_64) 7 (Core)"
#查看內核啟動項
grub2-editenv list
#重啟
reboot
#啟動完成查看內核版本是否更新
uname -r
重新進行測試,都沒有問題了(終於完成了)。
參考資料: