高トラフィック アプリケーションでのリアルタイム予測に TensorFlow を使用する正しい方法は何ですか。
理想的には、アプリサーバーから接続して、データベースの使用方法と同様の予測を取得できるポートでリッスンするテンソルフローを実行するサーバー/クラスターを用意します。トレーニングは、ネットワークを介して同じサーバー/クラスターにトレーニング データを供給する cron ジョブによって実行する必要があります。
本番環境でテンソルフローを実際に使用するにはどうすればよいですか? Python がサーバーとして実行されているセットアップを構築し、Python スクリプトを使用して予測を取得する必要がありますか? 私はまだこれに慣れていませんが、そのようなスクリプトはセッションなどを開く必要があると感じています..これはスケーラブルではありません. (私は毎秒数百の予測について話している)。
関連情報へのポインタは高く評価されます。何も見つかりませんでした。