Linux デスクトップに minikube クラスターと kfserving をインストールしました。次に、2 つのチュートリアル
https://github.com/kubeflow/kfserving/tree/master/docs/samples/v1beta1/custom/torchserve
https://github.com/kubeflow/kfserving/tree/master/docs/samplesに従いました。 /v1alpha2/custom/kfserving-custom-model
2 番目のチュートリアルでは、yaml ファイルの「name: custom」を「custom:」セクションから「container:」セクションに移動する必要がありました。
サービングサービスが機能していて、kubernetes のサービスのリクエストとポッドのサービングに応答していることを期待していました。
2021 年 5 月以降の最新の安定版を使用しています。
しかし、両方のチュートリアルで同じバグがあります。以下のコマンドは最初のチュートリアルのものです。モデルでdockerイメージを準備して実行すると
$ kubectl apply -f torchserve-custom.yaml
指図。
次のような出力が表示されます
inferenceservice.serving.kubeflow.org/torchserve-custom created
しかし、サービスで 404 が見つからないため、予測を実行できません。
私が走るとき
$ kubectl get pods --all-namespaces
新しいポッドは表示されません。
しかし、私はサービスを削除することができます
$ kubectl delete -f torchserve-custom
https://github.com/kubeflow/kfserving/tree/master/docs/samples/v1beta1/torchserveのような他のチュートリアルに従っていると、すべてが正常に機能し、予測を実行できました。
予測を実行できないのはなぜですか?
新しいポッドが作成されるのはなぜですか?
上記のチュートリアルが機能しない場合、docker イメージを使用して kfserving でサービスをセットアップする方法を教えてください。