問題タブ [cart-analysis]

Python で決定木 (ID3) を作成する手順を教えてください。次のようになりますか？(if then else が大量にあるのか、それともそれよりも優れているのか?) また、次のような ID3 ツリーを作成するには、エントロピーを計算する必要がありますか? どのように？

CART アルゴリズムに基づいて決定木を実装していますが、質問があります。データを分類できるようになりましたが、私の仕事はデータを分類するだけではありません。エンドノードで正しい分類の確率が欲しいです。例えば。クラス A と B のデータを含むデータセットがあります。あるクラスのインスタンスをツリーに配置するときに、そのインスタンスがクラス A とクラス B に属する確率を確認したいのですが、どうすればよいですか? エンドノードで確率分布を持つように CART を改善するにはどうすればよいですか?

私は現在、Coursera から「実践的な機械学習」コースを受講しており、予測機能で奇妙な動作に遭遇しています。尋ねられた質問は、ツリーをトレーニングしてからいくつかの予測を行うことでした。ここに回答を投稿しないように、問題に使用されるデータセットを変更しました。コードは次のとおりです。

上記のコードには、2 つの主要なセクションがあります。1 つ目はツリーを構築し、2 つ目 (ここsampleDataから開始) は、モデルを適用するデータの小さなサンプル セットを作成します。元のデータとまったく同じ構造であることを確認するには、トレーニング データセットの最初の行をコピーし、すべての列を に設定しますNA。次に、デシジョン ツリーに必要な列 (この場合はwt変数) だけにデータを入れます。

上記のコードを実行すると、次の結果が得られます。

参考までに、ツリーの構造は次のとおりです。

predict関数が私が提供したの予測値を返さない理由を誰かが理解するのを手伝ってくれますsampleDataか?

RF の各ツリーと CART の最適なツリーの主な違いは?

背景:
R でランダムなフォレストを作成できます:

作成した randomForest オブジェクトを使用して値を予測できます。

次に、森からランダムな木を剥がします。

質問:

• 森から引き抜かれた一本の木からどのように予測するのですか?
• 使用する必要がある別のライブラリはありますか? (森、パーティー、h2o、...)

私がこれまでに見た場所：

• 私は古典的なrandomForestを試しましたが、「ゲット」または「ゲットの予測」はありません。「成長」がありますが、特定の木を使用するのではなく、サイコロを使用して新しいランダム フォレストを作成します。「結合」がありますが、「getTree」から返されるものではなく、randomForest オブジェクトで機能します。
• 複数の木を 1 つのオブジェクトに詰め込もうとしましたが、うまくいきませんでした。これらを縫い合わせるデータについての私の理解には、改善の余地があります。
• party/cforest のコードを調べてみましたが、ctree で作成されているとされていますが、ドキュメントには「getTree」がありませんでした。
• グーグル検索を何度も試しましたが、この特定のタスクについて何も見つかりませんでした。

私はまた、答えが私の質問に答えない一般的に関連する質問を見つけました：

• https://stats.stackexchange.com/questions/21152/obtaining-knowledge-from-a-random-forest
• http://tjo.hatenablog.com/entry/2014/03/10/190000 (漢字は読めませんがRは読めます)
• http://grokbase.com/t/r/r-help/11a5wgv1xn/r-party-extract-binarytree-from-cforest

アンサンブル統計と、森の中の特定の木の形をプロットすることについては、かなりの部分があるようです。森で木を扱うことはないようです。