machine-learning - 弱分類器

Question

AdaBoost アルゴリズムを使用するアプリケーションを実装しようとしています。AdaBoost が一連の弱分類器を使用していることは知っていますが、これらの弱分類器が何であるかはわかりません。例を挙げて説明して、独自の弱分類器を作成する必要があるかどうか、または何らかのアルゴリズムを使用する必要があるかどうかを教えてください。

Answer 1

弱分類器(または弱学習器) は、ランダム分類器よりわずかに優れているだけの分類器です。したがって、これらは適切なラベルを予測する方法について何らかの手がかりを持つ分類器ですが、単純ベイズ、Neurel Networks、SVM などの強力な分類器ほどではありません。

最も単純な弱分類器の 1 つは、1 レベルの決定木であるDecision Stumpです。1 つの機能のしきい値を選択し、そのしきい値でデータを分割します。その後、AdaBoost は、データの特性の一部にそれぞれ焦点を当てたこれらの決定スタンプの軍隊をトレーニングします。

Answer 2

AdaBoost を使用したとき、弱分類器は基本的に各データ属性のしきい値でした。これらのしきい値は、50% を超えるパフォーマンスが必要です。そうでない場合、完全にランダムになります。

以下は、Adaboost に関する優れたプレゼンテーションと、これらの弱分類器の計算方法です 。