問題タブ [autograd]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票する
0 に答える
119 参照

python - autograd による最適化

連続値のデータセット {input, target} があります。入力 (x) 次元は 224 で、ターゲット (y) 次元は 1 です。y の値は (0,1) の範囲です。約 1000 のデータ ポイントしかありません。私の目的は、関数 y = f(x) (存在すると仮定) を最大化することです。つまり、x の値 (この x は指定されたデータセットに存在しない可能性があります) を見つけて、1 に近い y を生成します。最良の方法は何ですか?これをする?

私のアイデアは、最初にデータに適合するようにニューラル ネットワークをトレーニングすることでした。次に、autograd 機能を使用して入力で df/dx を取得し、x の勾配降下パスをガイドします。つまり、ニューラル ネットワークを勾配を生成するブラック ボックスとして使用します。出力のエラーは (1-y) になります。この方法の解決策を検索するために必要なキーワードが不足しています。これは実行可能なアプローチですか?他に利用可能な方法は何ですか?

0 投票する
1 に答える
1652 参照

python - 非常に単純な optim.SGD トレーニング ループが期待どおりに機能しない - PyTorch

私は PyTorch のドキュメントを読んでいて、MSELoss と autograd を理解しようとしています。tensor12 つのランダム テンソルを取り、各テンソルの値を更新する非常に単純なトレーニング ループを作成してみましたtensor2。私の例では 100 を使用しました。これをどのように実装したかを次に示します。

トレーニング ループの前とトレーニング ループ後のテンソルの合計は同じですが、合計が増加し、100 に近づくはずです。ここで何が欠けているのかわかりません。トレーニング ループはドキュメンテーションの例からほぼそのままなので、オプティマイザーに関係があるのではないかと思います。私は PyTorch が初めてで、助けていただければ幸いです!