Pythonで記述されたアルゴリズムにネステロフのメソッドを実装することを検討しています。このメソッドの実装に関して、私が始めるのに役立つドキュメントを教えてください。私は職業上のプログラマーであるため、非理論的なバージョンを検討しています。
私はこのhttp://www.ee.ucla.edu/~vandenbe/236C/lectures/fgrad.pdfを試してみましたが、prox 演算子について言及した時点で感銘を受けました。prox operator とは何ですか? prox operator を実装するための指針はありますか?
お時間をいただきありがとうございます。
Boyd によるこの論文では、近位演算子とその使用方法が非常にうまく説明されています。式 1.2 は、prox_{\lambda f}(v) の定義を示しています。これは、本質的に「f の最小化と v の近く」の間でトレードオフする小さな凸最適化問題です。実装に関しては、一般的に関数 f に依存します。たとえば、f が凸集合の指標関数 (点が集合内にある場合は 0、それ以外の場合は +無限大) の場合、近位演算子は集合へのユークリッド射影です。POGS ソルバーのソース コードを調べると、定義されているさまざまな近位演算子のいくつかを確認できます (これらは、ほんの一握りの関数について解析的にしか解けません。その場合でも、ランベルトの W 関数を使用したり、3 次の根を見つけたりすることができます)。多項式)