optimization - 勾配降下で非負の制約を最適化する方法

Question

次の形式で最適化しています。

argmin_W f(W) st W_i > 0、すべての i について

ここで、W はベクトル、f(W) は W 上の関数です。非負の制約なしで最適化する方法を知っています。しかし、これを勾配降下法で最適化する方法がわかりません。

Answer 1

一般的で簡単な方法はないと思います。制約が満たされていることを確認するために、各ポイントで何らかの検索を行う必要があります (ライン検索、信頼領域などの手法)。

または、おそらく f には、利用できる構造があります。