pytorchのドキュメントを見た後、GroupNormのモジュールが運動量で見つかりませんでした。それを使用しない実装しかありません (私はAdaBNまたはAdaGNを使用したいので、これは役に立ちません)。 .
したがって、私の考えは、BatchNormクラスを取得してnum_groupsで拡張し、最初に入力を再形成してチャネルをグループ化することで平均と分散を実際に計算するメソッドをオーバーライドし、GroupNorm の動作をエミュレートすることでした。
これを行うために、torch.nn.functional.batch_normで行き止まりが見つかるまでソースコードを調べました。その関数は内部的に別の関数を呼び出しますtorch.batch_norm(...)
が、そのソース コードが見つかりませんでした。
その部分をどこで探すか知っていますか?それとも、これを実装するためのより良い方法があると思いますか? 他の方の作品をネットで探してみたのですが、未完成のものしか見つかりませんでした。