machine-learning - SoftMax回帰で「ソフト」と「最大」を解釈する方法は?

Question

ソフトマックス回帰の形式は知っていますが、なぜそのような名前が付けられているのか気になります。それとも歴史的な理由でしょうか？

Answer 1

最大 2 つの数値にmax(x,y)は、不要なプロパティである鋭い角/急なエッジがある可能性があります (たとえば、勾配を計算する場合)。

のエッジをソフトにするために、よりソフトmax(x,y)なエッジを持つバリアント、softmax 関数を使用できます。それはまだそのコアで最大関数です（正確には、それの近似値です）が、滑らかになりました。

それでも不明な場合は、こちらをお読みください。