" " で SVM アルゴリズムを実行しましたInsight into Data Mining Theory and Practice。
Page 253 Example 10.1
その中で、アルゴリズムは検索で停止し、Wtranspose X -gama
そこにあることが見つかりました3 misclassifications。
accuracyそして、トレーニング セット内の分類器の が であることを伝え70%ます。つまり、svmで行われたfinal optimum solutionことはありますか。iterationもしそうなら、反復を開始する場所と反復を開始するデータを教えてください。
SVM は、グローバルな最適解を見つけるために反復的にトレーニングされます。. そのため、ニューラル ネットワークなどの次善のソリューションにとらわれることはありませんが、そのような問題には閉じた形式のソリューションが存在しないため、反復的な方法でトレーニングされます。この最適化は、マージン サイズと誤分類カウントの加重和を含む SVM 最適化項を最小化するという観点から定義されていることに注意する必要があります。 RBF カーネルを使用してトレーニング セットで 100% の精度を持つモデルと、SVM がデータをオーバーフィットするように強制する非常に大きな C とガンマ (これは、トレーニング セットを記憶するだけの単純なモデルに退化し、役に立たなくなります) 、ただし、「100%」のスコアが表示されます)。そう、そうです、訓練の結果が「最終形」です。予想通り。
2 番目の質問 - 「反復を開始する場所」は意味がありません。古典的なアプローチでは、問題は双対解釈に変換され、SMO アルゴリズムが実行されて、ラグランジュ マルチプレイヤーの線形境界部分空間で凸関数の最適値が検出されます。そして、反復は KKT の最適条件に違反するポイントを通過するため、これらは「開始する」ポイントです。