問題タブ [computation-graph]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票する
1 に答える
119 参照

pytorch - Pytorch はどのように計算グラフを作成しますか

Web サイトの pytorch コードの例を次に示します。

forward 関数では、一連の変換を x に適用するだけで、どのオブジェクトがその変換の一部であるかを明示的に定義することはありません。それでも、勾配を計算して重みを更新するとき、Pytorch は更新する重みと勾配の計算方法を「魔法のように」認識します。

このプロセスはどのように機能しますか? コード分​​析が行われていますか、それとも他に何か不足していますか?

0 投票する
1 に答える
322 参照

machine-learning - pytorch では、後の計算のためにすべてのエポックで出力を保存したいと考えています。しかし、それはいくつかのエポックの後に OUT OF MEMORY ERROR につながり、

pytorch では、後の計算のためにすべてのエポックで出力を保存したいと考えています。しかし、それはいくつかのエポックの後に OUT OF MEMORY ERROR につながります。コードは次のようになります。

その理由は、pytorch がすべてのエポックからすべての計算グラフを保存するためだとわかっています。ただし、損失関数は、すべての予測結果を取得した後にのみ計算できます

モデルをトレーニングする方法はありますか?

0 投票する
0 に答える
31 参照

tensorflow - tensorflow で粗粒度の op レベル グラフを取得する方法

tensorflow を使用して、完全な計算グラフ (前方、後方、およびパラメーターの更新を含む) を取得したいと考えています。私は tf.functions を試しましたが、得られたグラフは細かすぎます。多くの演算 (Adam など) が小さな演算子 (add、mul、div など) に分割されているためです。粗粒度の操作レベルのグラフを取得できる方法はありますか? どうもありがとう!

0 投票する
0 に答える
19 参照

python - テンソルからのパーティション/スライスを使用した Pytorch の更新は失敗しますが、リストに対しては機能します

私は、Pytorch でアクション バランス RND を使用して PPO のコードを書いています。問題に遭遇したとき、RND と PPO の更新ループを書いていました。

次のコードは実行されますが、テンソルを使用すると実行されません: 単純化された状況の Python コード

コメントアウトされたコードは、機能しない 1 つの方法であり、次のエラーが発生します。

トレースバック (最後の最後の呼び出し): ファイル "d:\Andreas\02456-RL-Exploration\tst2.py"、22 行目、lis[i].backward() ファイル "C:\code\python\env\base \lib\site-packages\torch\tensor.py"、245 行目、後方 torch.autograd.backward(self、gradient、retain_graph、create_graph、inputs=inputs) ファイル "C:\code\python\env\base\ lib\site-packages\torch\autograd_ init _.py", line 145, in backward Variable._execution_engine.run_backward( RuntimeError: グラフを再度逆方向に実行しようとしていますが、保存された中間結果は既に解放されています。retain_graph を指定します。初めて .backward() または autograd.grad() を呼び出すときは =True。

なぜこれが起こるのかわかりません。誰でも説明できますか?