3D 医用画像セグメンテーションに LibSVM を使用しています。15 例の患者のデータセットがあります。すべての患者のケースから、ランダムに 1000 個のボクセルをサンプルとして選択します。15回の学習テストがあるように、患者のケースにはLeave-one-out交差検証を使用します。
学習テストの各手順では、グリッド検索法を使用して、最適なハイパーパラメーター C とガンマを見つけます。ただし、グリッド検索には処理時間が非常にかかるため、トレーニングとテストを行うためにより多くのサンプルを使用することはできません。
私の質問は、最適なハイパーパラメーターを見つけるためにいつグリッド検索を行うべきですか?
機能の組み合わせを変更した後、グリッド検索をやり直すだけでよいと、友人から言われました。しかし、私はそれについて安全だとは感じていません。15 回の学習テストでも、トレーニング サンプルの 1/14 部分の違いだけで、最良の C とガンマのさまざまなペアが得られるからです。
一方、オーバーフィッティングについて考えると、訓練データセットから取得した最適なハイパーパラメータを正確に使用する必要があるかどうか疑問に思っています。時間のかかるグリッド検索をやり直すのではなく、以前と少し異なる実験で取得したハイパーパラメータを使用できますか?