optimization - optim の lnsrch 問題 - R、BFGS

Question

optim を使用して、BFGS (および L-BFGS-B) で非線形最小二乗問題を当てはめようとしています。分析勾配を指定すると、ラインサーチが異常終了し、最終解は常に開始点に非常に近くなります。ただし、勾配を指定しないと、うまく収束するようです。これは誰かに数値的な問題を示唆していますか? グラデーションが正しいと確信しています。それはスケーリングの問題でしょうか？助けてくれてありがとう。

Answer 1

グラデーションが正しいと確信しています。あなたはそれを証明しましたか？有限差分によって勾配を計算し、それらが分析勾配とほぼ同じかどうかを確認しましたか? それが最初に見る場所だと思います。私は同じことをしなければなりませんでした。

PS Metropolis-Hastingsを検討しましたか? 遅いですが堅牢で、勾配や Hessian は必要ありません。