問題タブ [ensemble-learning]

私は R で Ensemble メソッドを使用しようとしており、BostonHousing2データセットでキャレット モデルのアンサンブルを試していました。貪欲なアンサンブルと線形アンサンブルをセットアップしているときに、エラーが発生します。コードは次のとおりです。

立ち往生するインスタンスがいくつかあります: model1 のセットアップ中に、次のエラー メッセージが表示されます。

また、貪欲なアンサンブルと線形アンサンブルをセットアップしているときに、モデルを結合するときにリスト エラーが発生します。助けを求めてください。

PS: これらが別の質問である必要がある場合は、お詫び申し上げます。

機械学習では、ランダム フォレストなどのアンサンブル ツリー モデルが一般的です。このモデルは、いわゆる決定木モデルのアンサンブルで構成されています。しかし、これらのモデルが具体的に何を学習したかをどのように分析すればよいのでしょうか?

私はマルチクラス分類を実行しており、さまざまなタイプの特徴によって与えられるパフォーマンスへの影響を調査しています。機能セットごとに SVM 1v1 分類子を個別に使用していますが、今、私が持っているすべての機能セットを利用する結合モデルのトレーニングを試みたいと考えています。すべての機能を単純にダンプすることなく、そのような結合モデルを作成する方法は何ですか? これはアンサンブル モデルの考え方に似ていると理解していますが、複数の機能セットで動作するアンサンブルの例は見つかりませんでした。

また、モデルを自分で実装するのではなく、すぐに使用できる実装またはいくつかのライブラリを探していることにも言及する必要があります。

各観測値にターゲット値が 1 に等しい確率を割り当てることにより、バイナリ分類 (応答が 0 または 1) の問題を解決するアルゴリズムがいくつかあります。すべてのアルゴリズムは、N が観測値の数である対数損失関数を最小化しようとします。 y_i は実際のターゲット値で、p_i はアルゴリズムによって予測される 1 の確率です。サンプル データを含む R コードを次に示します。

サンプル コードは、各アルゴリズムのログ損失を示します。

ここで、このアルゴリズムを組み合わせて、ログの損失をさらに最小限に抑えたいと考えています。私のためにこれを行うことができるRパッケージはありますか? この種の問題を解決するアルゴリズム、記事、本、または研究論文への参照を歓迎します。最終結果として、各クラスの予測確率を取得し、プレーンな 0,1 応答に注意してください。

R で SVM を使用して一部のデータを分類しようとしています。

データセット:

D1、D2、D3 は 0 から 9 までの値を取り、各ワードは 0/1 の値を取ります。

最初に、単語 1、単語 2 などに基づいて D1 を予測する分類子を作成します。次に、D1 と単語で予測した内容に基づいて D2 を予測する分類子を作成します。D1、D2、D3 は以前は 3 桁の単一の数字であり、桁と前の桁の間には関係があります。

これまでのところ、私は持っています:

しかし、私は完全に迷っています。どんな助けも大歓迎です。

ありがとう