Tensorflow ハブからGoogle のユニバーサル センテンス エンコーダーを使用して、セマンティック類似性検索を構築しようとしています。これは、私の知る限り、小文字のトークン化された文字列を取り、512 埋め込みベクトルを出力します。

主な問題

テーブルの初期化プロセス以外はすべて 1 秒未満で実行されます。

上記の行には約 20 秒かかります。テーブルの初期化プロセスを高速化する方法はありますか (後で実際に使用するために、ユーザー入力を埋め込みベクトルにすばやく変換します)。

コードは非常に単純です。

上記のコードはテスト用です (実際には最適ではないことはわかっています)。配列を含む pickle ファイルを開き、それらの配列から最も類似した文字列を選択します。

簡単に言えば、このライブラリを実際に使用できるように、テーブルの初期化を高速化するにはどうすればよいですか?

Tensorflow ハブ モジュール「Universal Sentence Encoder」の Tensorflow サービングをセットアップするのに数時間を費やしました。ここに同様の質問があります：

tensorflow サービングを使用して tensorflow ハブ埋め込みを提供可能にする方法は?

私はこれをWindowsマシンで行っています。

これは、モデルの構築に使用したコードです。

次の行を実行するところまで来ました。

次の結果が得られます。

次に、実行してみました：

エラーが発生します：

'text=["what this is"]' の部分のフォーマットを変更しようとしましたが、何もうまくいきませんでした。

この部分が機能するかどうかに関係なく、主な目標は、サービスを提供するモジュールをセットアップし、呼び出し可能な API を作成することです。

次の行のdockerで試しました：

物事は適切に設定されているようです：

私はもう試した

を与える

と

を与える

同様の質問はこちら

Tensorflow Serving: Rest API が「Malformed request」エラーを返す

このモジュールを提供する方法を探しています。ありがとう。