optimization - どの scipy.optimize.minimize が開始位置の影響を受けにくいですか?

Question

scipy Minimizerの 1 つを使用して関数を最小化しようとしています。残念ながら、私の関数には同じ値の停滞期があるため、ミニマイザーはそこで立ち往生します。私は、どの scipy オプティマイザーがこれに対して最も敏感ではないのか、そしてその理由を知りたいと思っていました。

ランダムな場所で何度も開始できることはわかっていますが、現在取り組んでいるものではそれを行うことができず、箱から出してこれらのミニマイザーを使用する必要があります.

Answer 1

座標の線形関数を関数に追加して、平坦な領域にゼロ以外の非常に小さな勾配を与えます。最小/最大が平坦な領域にある場合は、最終的な答えとして平坦な領域のどの部分を選択するかを決定する必要があるため、検索全体にバイアスをかけることもできます。これが最小/最大に達した後、それを開始点として使用し、バイアスを追加せずに最適化を再実行します。

探索空間の境界を決定する方法がある場合は、探索空間を均一にサンプリングする多数の開始位置を試すことができます。