12

これまでのところ、Google Cloud Run は CPU をサポートしています。GPU をサポートする予定はありますか? GPU が利用可能であれば、超高価な GPU インスタンスを実際に実行しなくても DL プロジェクトのデモを行うことができます。

4

2 に答える 2

11

これまでのところ、Google Cloud Run は CPU をサポートしています。GPU をサポートする予定はありますか? GPU が利用可能であれば、超高価な GPU インスタンスを実際に実行しなくても DL プロジェクトのデモを行うことができます。

私はそれを真剣に疑っています。GPU/TPU は特殊なハードウェアです。Cloud Run は、次のようなマネージド コンテナ サービスです。

  1. HTTP リクエスト経由で呼び出し可能なステートレス コンテナを実行できます。これは、CPU を集中的に使用するアプリケーションがサポートされていないことを意味します。HTTP 要求/応答の間、CPU はゼロ近くまでアイドル状態になります。高価な GPU/TPU はアイドル状態になります。
  2. 1 秒あたりのリクエスト数に基づいて自動スケーリングします。10,000 個のインスタンスを数秒で起動するのは簡単です。顧客がこれほど多くの GPU/TPU と請求書のサイズを起動できるとしたら、Google にとって課金サポートの悪夢を想像してみてください。
  3. 100 ミリ秒の時間間隔で課金されます。ほとんどのリクエストは、数百ミリ秒の実行に収まります。これは、CPU/GPU/TPU 統合の優れた実行モデルまたはビジネス モデルではありません。
  4. 使用していないときの Web サービスのコストをゼロ近くまで大幅に削減する課金モデルを提供します。コンテナ イメージを保存するための費用を支払うだけです。サービス URL で HTTP 要求を受信すると、コンテナー イメージが実行ユニットに読み込まれ、要求の処理が再開されます。リクエストが停止すると、請求とリソースの使用も停止します。

GPU/TPU タイプのデータ処理は、これらのプロセッサ デバイスが提供する処理能力とコストを保護および管理するバックエンド インスタンスによって最適に提供されます。

于 2019-05-26T22:54:26.103 に答える
3

Cloud Run for Anthos で GPU を使用できます

https://cloud.google.com/anthos/run/docs/configuring/compute-power-gpu

于 2021-02-26T02:49:39.393 に答える