11

私は勾配降下法をオンライン リソース (つまり、coursera での機械学習) を通じて学びました。ただし、提供された情報は、収束するまで勾配降下を繰り返すとしか言いませんでした。

彼らの収束の定義は、反復回数に対するコスト関数のグラフを使用し、グラフが平らになるタイミングを観察することでした。したがって、私は次のことを行うと仮定します。

if (change_in_costfunction > precisionvalue) {
          repeat gradient_descent
}

あるいは、収束を判断する別の方法は、係数が真の値に近づくのを見ることであるかどうか疑問に思っていました:

if (change_in_coefficient_j > precisionvalue) {
          repeat gradient_descent_for_j
} 
...repeat for all coefficients

では、収束はコスト関数または係数に基づいているのでしょうか? また、精度の値はどのように決定するのでしょうか? 係数または総費用関数の % である必要がありますか?

4

2 に答える 2