machine-learning - svmlight警告：​​KT条件でイプシロンを緩和する

Question

Svmlightを使用してデータセットを学習しようとしています。最適化プロセス中、常に次の警告が表示されます。

WARNING: Relaxing epsilon on KT-Conditions (0.010000).
.....................................................
WARNING: Relaxing epsilon on KT-Conditions (0.100000).
.....................................................
WARNING: Relaxing epsilon on KT-Conditions (1.000000).
.....................................................
WARNING: Relaxing epsilon on KT-Conditions (10.00000).
....................................................

それは重要ですか、それはどういう意味ですか？現在、トレーニングは成功していません。この警告と関係がありますか？ありがとう。

Answer 1

KT条件は、SVMのコアにある最適化問題の一部です。理論をあまり詳しく説明しなくても、最適な解が得られたときに真になる一連の条件があります。ただし、KT条件を正確に真にするために十分な反復を行うには、真であるというエスピロン（非常に少数）内でそれらを真にするよりも時間がかかります。基本的に、AはBと等しくなければならないというよりも、Aは+または-イプシロン内でBと等しくなければならないと言います。調査によると、これは実際には、条件を正確に正しくするために余分な時間をかけるのと同じように機能します。

SVM Lightは最初に非常に小さなイプシロンを試しますが、その問題を解決できない場合は、イプシロンを大きくして見つけようとしますが、問題が解決できない場合は、問題を決定する前に数回試行します。解決できません。

したがって、警告は、問題が解決できないためであり、その逆ではありません。