kubespray のおかげで、ESX 上の VM で実行される Kubernetes テスト クラスターを構成しました。構成ファイルで、デフォルトの CIDR を使用して CNI として calico を使用してクラスターを構成するように Kubespray に指示しました。
vSphere を使用して VM にアクセスするか、VM でコマンドを実行するdmesg
と、 master に次の出力が表示されます。
[2866556.027837] IPVS: rr: TCP 10.233.13.12:443 - no destination available
[2866556.857464] IPVS: rr: TCP 10.233.13.12:443 - no destination available
[2866557.029471] IPVS: rr: TCP 10.233.13.12:443 - no destination available
[2866688.881160] IPVS: __ip_vs_del_service: enter
[2866689.018851] IPVS: __ip_vs_del_service: enter
[2866689.023030] IPVS: __ip_vs_del_service: enter
[2866689.188072] IPVS: __ip_vs_del_service: enter
[2866689.416153] IPVS: __ip_vs_del_service: enter
[2866689.420334] IPVS: __ip_vs_del_service: enter
[2866692.005599] IPVS: __ip_vs_del_service: enter
[2866692.010260] IPVS: __ip_vs_del_service: enter
[2866692.257045] IPVS: __ip_vs_del_service: enter
[2866692.265034] IPVS: __ip_vs_del_service: enter
[2866692.267455] IPVS: __ip_vs_del_service: enter
[2866692.267493] IPVS: __ip_vs_del_service: enter
[2866916.815472] IPVS: rr: TCP 10.233.49.127:443 - no destination available
[2866916.820841] IPVS: rr: TCP 10.233.49.127:443 - no destination available
[2866916.823418] IPVS: rr: TCP 10.233.49.127:443 - no destination available
[2866916.824167] IPVS: rr: TCP 10.233.49.127:443 - no destination available
[2866916.826243] IPVS: rr: TCP 10.233.49.127:443 - no destination available
そして、私のワーカーでのこの出力
[1207664.350374] IPVS: rr: TCP 10.233.3.61:8080 - no destination available
[1207664.422584] IPVS: rr: TCP 10.233.3.61:8080 - no destination available
[1207667.108560] net_ratelimit: 13 callbacks suppressed
[1207667.108567] IPVS: rr: TCP 10.233.3.61:8080 - no destination available
[1207667.217235] IPVS: rr: TCP 10.233.3.61:8080 - no destination available
[1207667.274593] IPVS: rr: TCP 10.233.3.61:8080 - no destination available
[1207667.331658] IPVS: rr: TCP 10.233.3.61:8080 - no destination available
[1207668.218597] IPVS: rr: TCP 10.233.3.61:8080 - no destination available
[1207668.334613] IPVS: rr: TCP 10.233.3.61:8080 - no destination available
[1207675.500914] IPVS: rr: TCP 10.233.49.141:8086 - no destination available
[1207676.502566] IPVS: rr: TCP 10.233.49.141:8086 - no destination available
[1207676.628377] IPVS: rr: TCP 10.233.49.141:8086 - no destination available
[1208009.456587] blk_update_request: I/O error, dev fd0, sector 0
[1208009.924355] blk_update_request: I/O error, dev fd0, sector 0
[1208058.699578] blk_update_request: I/O error, dev fd0, sector 0
[1208240.706522] IPVS: Creating netns size=2048 id=289
[1208241.432437] IPv6: ADDRCONF(NETDEV_UP): eth0: link is not ready
[1208241.445496] IPv6: ADDRCONF(NETDEV_UP): cali6ef7aa1f11f: link is not ready
[1208241.447406] IPv6: ADDRCONF(NETDEV_CHANGE): cali6ef7aa1f11f: link becomes ready
[1208241.447469] IPv6: ADDRCONF(NETDEV_CHANGE): eth0: link becomes ready
それらのログを理解するのに本当に苦労しています。メッセージのあるものはcalicoにリンクされているようでIPVS : rr
、すべてのIPアドレスはクラスター内のサービスIPに対応しています。[calico-rr]
ただし、オプションであり、大規模なクラスター間の BGP 通信を改善するためにここにあるため、インベントリ ファイルにはノードを構成しませんでした。
[all]
m1 ansible_host=x.x.x.x ip=x.x.x.x
m2 ansible_host=x.x.x.x ip=x.x.x.x
w1 ansible_host=x.x.x.x ip=x.x.x.x
w2 ansible_host=x.x.x.x ip=x.x.x.x
w3 ansible_host=x.x.x.x ip=x.x.x.x
[kube-master]
m1
m2
[etcd]
m1
m2
w1
[kube-node]
w1
w2
w3
[calico-rr]
[k8s-cluster:children]
kube-master
kube-node
calico-rr
私が理解したところでは、これは、yaml ファイルを適用して linkerd をインストールするときに、新しいポッドとサービスの構成中に表示される出力です。これは準備プローブにリンクされていますか? サービス/ポッドの準備が整うまでメッセージが表示されますか?
本当の問題は、これらのログが vSphere のコンソールに大量に送信されており、それらを取り除く方法が本当にわからないことです。
他のスレッドでさらに情報を検索しましたが、見つけたものはあまり役に立ちませんでした。
アップデート :
IPVS : rr エラーについてより多くの洞察があります。https://kubernetes.io/blog/2018/07/09/ipvs-based-in-cluster-load-balancing-deep-dive/ kube-proxyが利用するIPVSロードバランシングと連動しています。
しかし、vSphere を介して ESX コンソールにこれらのログを残さない方法がまだわかりません。
更新 2:
Kubespray を使用した Kubernetes のインストールについては、以下のガイドに従って、上記のようにインベントリ ファイルを変更しました。
VM OS: Centos 7.7 1908
Kubernetes バージョン: 1.16.3
Kubespray のバージョン: release-2.12
Kubespray 入門ガイド: https://github.com/kubernetes-sigs/kubespray/blob/master/docs/getting-started.md