私は Pytorch を使用しており、Colab GPU でモデルをトレーニングできます。私のモデルはそれほど大きくありません。約10Mのパラメータです。Colab TPU でトレーニングしようとすると、セッションがクラッシュして突然再起動します。XLA のナイトリー バージョンとデフォルト バージョンの両方を試しました。RAMが増加しないことを確認しました。
ご協力いただきありがとうございます
私は Pytorch を使用しており、Colab GPU でモデルをトレーニングできます。私のモデルはそれほど大きくありません。約10Mのパラメータです。Colab TPU でトレーニングしようとすると、セッションがクラッシュして突然再起動します。XLA のナイトリー バージョンとデフォルト バージョンの両方を試しました。RAMが増加しないことを確認しました。
ご協力いただきありがとうございます