machine-learning - クロス検証と同時にランダムフォレストを実行する必要がありますか

Question

ランダムフォレストは堅牢なアルゴリズムです。ランダムフォレストでは、いくつかの小さな木を訓練し、OOBの精度を持っています。ただし、ランダムフォレストと同時に交差検定を実行する必要がありますか？

Answer 1

OOBエラーは、ランダムフォレストのエラーの不偏推定であるため、これはすばらしいことです。しかし、クロス検証を何に使用していますか？同じ方法でバギングを使用していない他のアルゴリズムとRFを比較する場合は、分散の少ない方法でそれらを比較する必要があります。他のアルゴリズムをサポートするには、とにかく相互検証を使用する必要があります。次に、RFと他のアルゴリズムに相互検証サンプル分割を使用することをお勧めします。これにより、分割選択によって引き起こされる分散を取り除くことができます。

あるRFを別の機能セットを持つ別のRFと比較する場合は、OOBエラーを比較するのが妥当です。これは、トレーニング中に両方のRFが同じバギングセットを使用することを確認する場合に特に当てはまります。

Answer 2

いかなる種類の検証も実行する必要はありません。単にそれを使用したいだけで、過剰適合のリスクを気にしない場合。

科学出版（またはさまざまな分類子の品質を比較するその他の方法）の場合は、結果を検証する必要があります。ここでは、相互検証がベストプラクティスです。