machine-learning - libsvm でのガンマと C によるトレーニング時間とオーバーフィッティング

Question

私は現在、Gaussian カーネルを使用したサポート ベクター マシン分類器に libsvm を使用しています。そのWeb サイトでは、最適な C とガンマを選択するための python スクリプト grid.py が提供されています。

ガンマとCでトレーニング時間とオーバーフィッティング/アンダーフィッティングがどのように変化するのだろうか?

それは正しいですか：

C が 0 から +infinity に変化すると、トレーニング済みモデルがアンダーフィッティングからオーバーフィッティングになり、トレーニング時間が増加するとしますか?

ガンマがほぼ 0 から +infinity に変化すると、トレーニング済みのモデルがアンダーフィッティングからオーバーフィッティングになり、トレーニング時間が増加するとしますか?

grid.py では、デフォルトの検索順序は C に対して小さいものから大きいものへ、ガンマは大きいものから小さいものへです。小規模から大規模へのトレーニング時間と、アンダーフィッティングからオーバーフィッティングへのトレーニング済みモデルのトレーニングを目的としていますか? では、C とガンマの値を選択する時間を節約できるでしょうか?

よろしくお願いします！

Answer 1

私自身が知りたいので、確かな答えがありません。しかし、質問に答えて：

では、C とガンマの値を選択する時間を節約できるでしょうか?

... libsvm を使用すると、問題に大きく依存する C とガンマの「正しい」値が確実に存在することがわかります。したがって、ガンマが検索される順序に関係なく、ガンマの多くの候補値をテストする必要があります。最終的に、この時間のかかる (問題によっては) が必要なパラメーター検索の近道はわかりません。