machine-learning - 異なるモデル (ランダムフォレスト、gbm、svm など) の予測に対して線形/ロジスティック回帰を実行する方法は?

Question

基本的には、アンサンブルを作成して予測を改善するために行われます。しかし、どうすればそれを行うことができますか。誰かがRのサンプルコードを使って説明してもらえますか? 私はただの学習者です。どんな助けでも大歓迎です。

ありがとうございました。

Answer 1

アンサンブルでの予測集計は、さまざまな方法で実行できます。最も単純なアプローチは、多数決 (分類) またはすべての基本モデルの予測の平均化 (回帰) です。

多くの場合、複雑な集計スキームは基本的なものよりもはるかに優れているわけではありません (また、オーバーフィッティングの影響を非常に受けやすくなっています)。これが、 EnsembleSVMなどの特殊なパッケージが非常に基本的な集約 (せいぜい線形結合) しか許可しない理由です。