問題タブ [tpu]

TPUEstimator を使用してブール値のマスキング操作を実装する必要があります。tf.boolean_mask は実装されていません。回避策はありますか?

次のコードは、CPU と GPU で私の目的に完全に適合します。

all_out は形状 [?, 128, 768] のテンソルです

P_mask は形状 [?, 128] であり、2 番目の次元は、抽出する目的のテンソルを表すためにワンホット エンコードされます。

P の望ましい形状は [?,768] です。

TPUEstimator を使用して TPU でこれを実行すると、次のエラー メッセージが表示されます。

BERT を使用してモデルをトレーニングしようとしています。BERT パラメーターについては、独自のデータセットを使用してパラメーターを微調整できることを願っています。

トレーニング プロセスを高速化するために、Google Cloud プラットフォームと TPU を使用しています。

私はこのチュートリアルに従っていますが、次の行を置き換えました:

置換:

と：

置換:

と：

また、次のパラメーターを定義しました。

次の行を実行している間：

ノートブックは次のアドレスへの接続を 120 回試行しますが、成功せず、タイムアウト エラーが返されます。

TPU の場合はインスタンスを作成し、ノートブックのランタイム タイプも TPU に設定しました。ノートブックを使用して TPU に接続できない理由を知っている人はいますか?