1

kubespray のおかげで、ESX 上の VM で実行される Kubernetes テスト クラスターを構成しました。構成ファイルで、デフォルトの CIDR を使用して CNI として calico を使用してクラスターを構成するように Kubespray に指示しました。

vSphere を使用して VM にアクセスするか、VM でコマンドを実行するdmesgと、 master に次の出力が表示されます。

[2866556.027837] IPVS: rr: TCP 10.233.13.12:443 - no destination available
[2866556.857464] IPVS: rr: TCP 10.233.13.12:443 - no destination available
[2866557.029471] IPVS: rr: TCP 10.233.13.12:443 - no destination available
[2866688.881160] IPVS: __ip_vs_del_service: enter
[2866689.018851] IPVS: __ip_vs_del_service: enter
[2866689.023030] IPVS: __ip_vs_del_service: enter
[2866689.188072] IPVS: __ip_vs_del_service: enter
[2866689.416153] IPVS: __ip_vs_del_service: enter
[2866689.420334] IPVS: __ip_vs_del_service: enter
[2866692.005599] IPVS: __ip_vs_del_service: enter
[2866692.010260] IPVS: __ip_vs_del_service: enter
[2866692.257045] IPVS: __ip_vs_del_service: enter
[2866692.265034] IPVS: __ip_vs_del_service: enter
[2866692.267455] IPVS: __ip_vs_del_service: enter
[2866692.267493] IPVS: __ip_vs_del_service: enter
[2866916.815472] IPVS: rr: TCP 10.233.49.127:443 - no destination available
[2866916.820841] IPVS: rr: TCP 10.233.49.127:443 - no destination available
[2866916.823418] IPVS: rr: TCP 10.233.49.127:443 - no destination available
[2866916.824167] IPVS: rr: TCP 10.233.49.127:443 - no destination available
[2866916.826243] IPVS: rr: TCP 10.233.49.127:443 - no destination available

そして、私のワーカーでのこの出力

[1207664.350374] IPVS: rr: TCP 10.233.3.61:8080 - no destination available
[1207664.422584] IPVS: rr: TCP 10.233.3.61:8080 - no destination available
[1207667.108560] net_ratelimit: 13 callbacks suppressed
[1207667.108567] IPVS: rr: TCP 10.233.3.61:8080 - no destination available
[1207667.217235] IPVS: rr: TCP 10.233.3.61:8080 - no destination available
[1207667.274593] IPVS: rr: TCP 10.233.3.61:8080 - no destination available
[1207667.331658] IPVS: rr: TCP 10.233.3.61:8080 - no destination available
[1207668.218597] IPVS: rr: TCP 10.233.3.61:8080 - no destination available
[1207668.334613] IPVS: rr: TCP 10.233.3.61:8080 - no destination available
[1207675.500914] IPVS: rr: TCP 10.233.49.141:8086 - no destination available
[1207676.502566] IPVS: rr: TCP 10.233.49.141:8086 - no destination available
[1207676.628377] IPVS: rr: TCP 10.233.49.141:8086 - no destination available
[1208009.456587] blk_update_request: I/O error, dev fd0, sector 0
[1208009.924355] blk_update_request: I/O error, dev fd0, sector 0
[1208058.699578] blk_update_request: I/O error, dev fd0, sector 0
[1208240.706522] IPVS: Creating netns size=2048 id=289
[1208241.432437] IPv6: ADDRCONF(NETDEV_UP): eth0: link is not ready
[1208241.445496] IPv6: ADDRCONF(NETDEV_UP): cali6ef7aa1f11f: link is not ready
[1208241.447406] IPv6: ADDRCONF(NETDEV_CHANGE): cali6ef7aa1f11f: link becomes ready
[1208241.447469] IPv6: ADDRCONF(NETDEV_CHANGE): eth0: link becomes ready

それらのログを理解するのに本当に苦労しています。メッセージのあるものはcalicoにリンクされているようでIPVS : rr、すべてのIPアドレスはクラスター内のサービスIPに対応しています。[calico-rr]ただし、オプションであり、大規模なクラスター間の BGP 通信を改善するためにここにあるため、インベントリ ファイルにはノードを構成しませんでした。

[all]
m1 ansible_host=x.x.x.x ip=x.x.x.x
m2 ansible_host=x.x.x.x ip=x.x.x.x
w1 ansible_host=x.x.x.x ip=x.x.x.x
w2 ansible_host=x.x.x.x ip=x.x.x.x
w3 ansible_host=x.x.x.x ip=x.x.x.x

[kube-master]
m1
m2

[etcd]
m1
m2
w1

[kube-node]
w1
w2
w3

[calico-rr]

[k8s-cluster:children]
kube-master
kube-node
calico-rr

私が理解したところでは、これは、yaml ファイルを適用して linkerd をインストールするときに、新しいポッドとサービスの構成中に表示される出力です。これは準備プローブにリンクされていますか? サービス/ポッドの準備が整うまでメッセージが表示されますか?

本当の問題は、これらのログが vSphere のコンソールに大量に送信されており、それらを取り除く方法が本当にわからないことです。

他のスレッドでさらに情報を検索しましたが、見つけたものはあまり役に立ちませんでした。

アップデート :

IPVS : rr エラーについてより多くの洞察があります。https://kubernetes.io/blog/2018/07/09/ipvs-based-in-cluster-load-balancing-deep-dive/ kube-proxyが利用するIPVSロードバランシングと連動しています。

しかし、vSphere を介して ESX コンソールにこれらのログを残さない方法がまだわかりません。

更新 2:

Kubespray を使用した Kubernetes のインストールについては、以下のガイドに従って、上記のようにインベントリ ファイルを変更しました。

VM OS: Centos 7.7 1908

Kubernetes バージョン: 1.16.3

Kubespray のバージョン: release-2.12

Kubespray 入門ガイド: https://github.com/kubernetes-sigs/kubespray/blob/master/docs/getting-started.md

4

1 に答える 1