machine-learning - 回帰と分類のための K-Nearest アルゴリズム

Question

k に最も近い分類子と k に最も近い回帰の正確な違いは何ですか?

回帰はどのような種類のデータに適用されますか? 何か良い文学を知っていますか？

Answer 1

これは実際には knn 関連の質問ではありません。単純に、このモデルは 2 つの異なるタスクに同様に適用できます。

• 回帰http://en.wikipedia.org/wiki/Regression_analysis
• 分類http://en.wikipedia.org/wiki/Statistical_classification

要するに：

• 回帰 - 関数 f をモデル化しようとしています: X -> R^n (n 次元の連続値)
• 分類 - 関数をモデル化しようとしています f : X -> {c1,c2,...,ck} (値の有限集合)

最も簡単な例は次のとおりです。

• 明日の正確な気温を予測したい = 回帰
• 明日が暑いか、cols=分類かを予測したい

これらの概念は、多かれ少なかれ各問題を別の問題に変換できるため、密接に関連しています。

• 回帰 -> 分類 : クラスを値として表し、モデルをトレーニングし、しきい値またはソフトマックスを使用してクラスに戻します (分類モデルを直接使用できる場合、明らかに複雑になります)
• 分類 -> 回帰 : 値に離散化を使用し、モデルをトレーニングし、補間を使用して連続値に変換します (明らかに、これにより一部の情報が失われます)

決定/回帰ツリーのコンテキストでのいくつかの良い説明: http://www.simafore.com/blog/bid/62482/2-main-differences-between-classification-and-regression-trees