問題タブ [tfx]
For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.
tensorflow - 上位 n 個のロジットを返す tensorflow/serving
現在、テンソルフロー モデルをスケーラブルな方法で提供するという課題に取り組んでいます。私の知る限り、推奨される解決策は、標準のTensorFlow ModelServerを使用することです。一般的な要件はこれでかなりうまく処理されますが、もっと欲しいです。「制限」のようなパラメーターを解析して、上位 n ロジット + 返される確率を定義することにより、転送されるデータ量を減らしたいと考えています。
調査中に、次の解決策を特定しました。
1) モデルの構築中に、より高度な SignatureDef を作成します。
2) 上記の機能を使用して、基本的なtensorflow/servingプロジェクトをカスタマイズします。
3) 標準の Tensorflow Modelserver でモデルを提供し、resp を再構築するための後処理サービスを構築します。定義済みの方法で結果をフィルタリングします。
私よりも経験豊富な人が私の質問について詳しく説明してもらえますか? - コードスニペットまたはリンクは素晴らしいでしょう。
前もって感謝します。
python - tensorflow-model-analysis リリース 0.13.2 および 0.13.1 が python2 で実行されない
tfma ソース コード 0.13.2 をダウンロードし、python2 を使用してローカルの jupyter ノートブックで実行しましたが、動作しません
作業コード:
動作しないコード:
型ヒントは Python 3 でのみサポートされているようです。そのため、上記のエラーは私にとって妥当です。
ただし、githubページにはPython2.7と互換性があると書かれていますが、tfmaコードはPython 2で実行できないということですか?
それとも私は何かを逃しましたか？
tensorflow - TensorFlow サービング クラスタ アーキテクチャ
皆さん、ML モデル呼び出しに基づいてレコメンデーションを生成するアプリケーションを作成しています。アプリケーションにはさまざまなモデルがあり、そのうちのいくつかは順番に呼び出す必要があります。データ サイエンティストは、システムにモデルをアップロードできる必要があります。つまり、アプリケーションには、モデルのメタデータとモデル サーバーのアドレスを格納するロジックが必要です。モデル サーバーは、モデルのアップロード イベントで動的にインスタンス化されます。ここで TensorFlow Serving のクラスターを使用したいのですが、アーキテクチャの問題が山積しています。TensorFlow サーバーのサービス レジストリのようなものを持つ方法はありますか? このような異なるモデルのサーバーのクラスターを構築する最善の方法は何ですか?