K8S高可用方案測試用例

1、 TOC o 1-5 h z HYPERLINK l bookmark0 o Current Document K8S高可用方案測試用例 2一、ETCD數據庫集群高可用測試2測試用例1-1: ETCD據庫集群高可用測試 2 HYPERLINK l bookmark2 o Current Document kube-apiserver 高可用測試 3測試用例 2-1: kube-apiserver高可用測試 3測試用例2-2： haproxy高可用測試 3 HYPERLINK l bookmark4 o Current Document k8s master高可用測試 4測試用例3-1:k8sm

2、aster節(jié)點高可用測試 4測試用例3-2：k8smaster組件高可用測試 4 HYPERLINK l bookmark6 o Current Document k8s minion高可用測試5測試用例4-1:k8sminion節(jié)點高可用測試 5測試用例4-2：k8sminion組件高可用測試 5K8S高可用方案測試用例、ETCD數據庫集群高可用測試ETCtM據庫集群由三個節(jié)點組成： ETCD1 ETCD2 ETCD3 etcdctl member list查看集群中成員信息；etcdctl cluster-health查看集群中成員的健康狀態(tài)；測試用例1-1: ETCD數據庫集群高可用測試

3、用例編號：1-1測試目的：驗證ETCD數據庫高可用測試步驟：執(zhí)行命令：etcdctl member list執(zhí)行命令：etcdctl cluster-health執(zhí)行命令：etcdctl ls /kube-centos/network執(zhí)行命令：etcdctl ls /kube-centos/network/config ; 預期結果 1;在ETCD0(etcd的leader)所在的節(jié)點上將 etcd進程kill掉；執(zhí)行14步驟，預 期結果2;在ETCD0所在的節(jié)點上將 etcd服務停掉：systemctl stop etcd;執(zhí)行14步驟，預期結果3;在ETCD0所在的節(jié)點上將 etcd服務重

4、啟：systemctl start etcd;執(zhí)行14步驟，預期結果4;預期結果：.預期結果1:步驟14的命令都能正常執(zhí)行并返回結果；.預期結果2:步驟1的命令能正常執(zhí)行并返回結果，其中ETCD0寸應的結果isLeader變?yōu)閒alse;步驟2的命令能正常執(zhí)行并返回結果，其中ETCD0對應的結果health狀態(tài)變?yōu)閡nhealthy ,過一段時間后恢復 healthy ;步驟34的命令都能正常執(zhí)行并返回結果；.預期結果3:步驟1的命令能正常執(zhí)行并返回結果，其中ETCD0寸應的結果isLeader變?yōu)閒alse;步驟2的命令能正常執(zhí)行并返回結果，其中ETCD0對應的結果health狀態(tài)變?yōu)閡nh

5、ealthy ;步驟34的命令都能正常執(zhí)行并返回結果；.預期結果4:步驟1的命令能正常執(zhí)行并返回結果；步驟2的命令能正常執(zhí)行并返回結果，其中ETCD0對應的結果health狀態(tài)變?yōu)閔ealthy;步驟34的命令都能正常執(zhí)行并返回結果；執(zhí)行結果：二、kube-apiserver 高可用測試kube-apiserver 使用haproxy構建多活的高可用方案。具體配置時kube-apiserver 端口為 8081 , haproxy 中端口配置為8080;三個 kube-apiserver 的地址和VIP分別是：IP1:8081IP2:8081IP3:8081VIP:8080測試用例2-1: k

6、ube-apiserver高可用測試用例編號：2-1測試目的：驗證kube-apiserver圖可用測試測試步驟：執(zhí)行命令：curl HYPERLINK http:/IP1:8081 http:/IP1:8081 、 curl HYPERLINK http:/IP2:8081 http:/IP2:8081、curl http:IP3:8081、curl HYPERLINK http:/VIP1:8080 http:/VIP1:8080 。預期結果 1;在下點IP1上，將kube-apiserver進程kill掉；執(zhí)仃步驟 1,預期結果 2;點 IP1 上，4各 kube-apiserver 服

7、務停掉 systemctl stop kube-apiserver ;執(zhí)驟1,預期結果3 ;在下點 IP1 上，# kube-apiserver 服務重啟 systemctl start kube-apiserver ;執(zhí)彳 驟1 ,預期結果4 ;預期結果：預期結果1: 4個curl都能執(zhí)行成功；預期結果 2 ： kill 掉 kube-apiserver 后，systemd 會很快將 kube-apiserver 重啟，所以 4個curl都能執(zhí)行成功；預期結果3:第,個curl執(zhí)行失敗，其他一個 curl執(zhí)行成功；預期結果4： 4個curl都能執(zhí)行成功；執(zhí)行結果：測試用例2-2: hapro

8、xy高可用測試用例編號2-2測試目的驗證haproxy圖可用測試測試步驟.執(zhí) 行 命 令 ：curl http:/admin:adminIP1/admin、curlhttp:/admin:adminIP2/admin 、curl http:admin:adminVIP1/admin。預期結 果1;.在節(jié)點IP1上，將haproxy進程kill掉；執(zhí)行步驟1,預期結果2;. 在節(jié)點IP1上，將haproxy服務停掉systemctl stop haproxy ;執(zhí)行步驟1,預期結 果3;. 在節(jié)點IP1上，將haproxy服務重啟systemctl stop haproxy ;執(zhí)行步驟1,預期結

9、 果4;預期結果預期結果1: 3個curl都能執(zhí)行成功；預期結果2： kill掉haproxy后，systemd會很快將haproxy重啟，所以4個curl都能執(zhí)行成功；預期結果3:第,個curl執(zhí)行失敗，其他2個curl執(zhí)行成功；預期結果4 ： 3個curl都能執(zhí)行成功；執(zhí)行結果：三、k8s master 高可用測試k8s master高可用測試包括 master所在的節(jié)點高可用測試和 master組件 (kube-controller-manager 和 kube-scheduler )高可用測試。Master節(jié)點高可用使用keepalived構建主備模式；測試用例3-1: k8s mas

10、ter節(jié)點高可用測試用例編號：3-1測試目的：k8s master節(jié)點圖可用測試測試步驟：.登PS epc服務，預期結果1;. 將 master1 節(jié)點上的 kube-controller-manager、kube-scheduler 服務停掉，模擬 master1下點下線的場景；.等5分鐘后，登陸EPC服務，預期結果2;. 將 master1 節(jié)點上的 kube-controller-manager 、 kube-scheduler 服務重啟，模擬 master1節(jié)點上線的場景；登陸 epc服務，預期結果3;預期結果：.預期結果1.預期結果2.預期結果3epc服務可以登陸，各項服務正常運行；

11、 epc服務可以登陸，各項服務正常運行； epc服務可以登陸，各項服務正常運行；執(zhí)行結果：測試用例3-2: k8s master組件高可用測試用例編號3-2測試目的k8s master組件圖可用測試測試步驟登PS epc服務，預期結果1;將 master1 節(jié)點上的 kube-controller-manager 服務停掉， 模擬 kube-controller-manager 服務異常的Wlb;等5分鐘后，登陸EPC服務，預期結果2;將 master1 節(jié)點上的kube-controller-manager 服務重啟，模擬 master1 節(jié)點kube-controller-manager服

12、務恢復的場景；登陸 epc服務，預期結果 3;將master1節(jié)點上的kube-scheduler服務停掉，模擬 kube-scheduler服務異常的等5分鐘后，登陸EPC服務，預期結果4;將 master1 節(jié)點上的 kube-scheduler 服務重啟， 模才以 master1 節(jié)點 kube-scheduler 服務恢復的場景；登陸epc服務，預期結果 5;預期結果：.預期結果1.預期結果2.預期結果3epc服務可以登陸，各項服務正常運行； epc服務可以登陸，各項服務正常運行； epc服務可以登陸，各項服務正常運行；.預期結果4： epc服務可以登陸，各項服務正常運行；.預期結果5

13、: epc服務可以登陸，各項服務正常運行；執(zhí)行結果：四、k8s minion 高可用測試k8s minion高可用測試包括 minion所在的節(jié)點高可用測試和 minion組件（kube-proxy 和kubelet ）高可用測試。測試用例4-1: k8s minion節(jié)點高可用測試用例編號4-1測試目的驗證k8s minion節(jié)點局可用測試步驟.登PS epc服務，預期結果1;. 將 minion1 節(jié)點上的 kubelet、kube-proxy、docker 服務停掉，模擬 minion1 節(jié)點 下線的場景；.等5分鐘后，登陸EPC服務，預期結果2;. 將 minion1 節(jié)點上的 kub

14、elet、kube-proxy、docker 服務重啟，模擬 minion1 節(jié)點 上線的場景（此時minion1節(jié)點上的所有容器全部終結，并在其他節(jié)點上再次創(chuàng)建）；登陸epc服務，預期結果3;預期結果.預期結果1: epc服務可以登陸，各項服務正常運行；.預期結果2： epc服務可以登陸，各項服務正常運行；.預期結果3: epc服務可以登陸（登陸加載時間較長），各項服務正常運行；執(zhí)行結果測試用例4-2: k8s minion組件高可用測試用例編號：4-2測試目的：驗證k8s minion組件圖可用測試步驟：. 在 minion1 節(jié)點上，ps -ef | grep -E kubelet | kube-proxy預期結果 1;.在minion1下點上，將kubelet進程kill掉；執(zhí)行步驟1,預期結果2;. 在minion1下點上，將kube-proxy進程kill掉；執(zhí)行步驟1,預期結果3;.在minion1節(jié)點上，將docker進程kill掉；登陸epc的業(yè)務（自服務）預期結果 4;預期結果：預期結果1 ： kubelet和kube-proxy都正常運行；預期結果 2： kill掉kubelet后，systemd會很快將kubele