私は Scikit-learn を使用してテキストのマルチラベル分類について学習しようとしています。トレーニング データとしてウィキペディアの記事を使用して言語を分類するために、scikit に付属する最初のサンプル チュートリアルの 1 つを適応させようとしています。以下でこれを実装しようとしていますが、コードは、最後の予測が fr、en を返すと予想される場所ごとに 1 つのラベルを返します。
マルチラベル分類を有効にする正しい方法について、誰でもアドバイスできますか。
import sys
from sklearn.feature_extraction.text import TfidfVectorizer
from sklearn.feature_extraction.text import CountVectorizer
from sklearn.feature_extraction.text import TfidfTransformer
from sklearn.datasets import make_multilabel_classification
from sklearn.preprocessing import LabelBinarizer
from sklearn.svm import LinearSVC
from sklearn.pipeline import Pipeline
from sklearn.datasets import load_files
from sklearn.cross_validation import train_test_split
from sklearn import metrics
from sklearn.multiclass import OneVsRestClassifier
#change model_selection to cross_validation
# The training data folder must be passed as first argument - This uses the example wiki language data files
languages_data_folder = sys.argv[1]
dataset = load_files(languages_data_folder)
# Split the dataset in training and test set:
docs_train, docs_test, y_train, y_test = train_test_split(
dataset.data, dataset.target, test_size=0.5)
#pipeline
clf = Pipeline([
('vectorizer', CountVectorizer(ngram_range=(1,2))),
('tfidf', TfidfTransformer()),
('clf', OneVsRestClassifier(LinearSVC())),
])
target_names=dataset.target_names
# TASK: Fit the pipeline on the training set
clf.fit(docs_train, y_train)
# TASK: Predict the outcome on the testing set in a variable named y_predicted
y_predicted = clf.predict(docs_test)
print target_names
# Predict the result on some short new sentences:
sentences = [
u'This is a language detection test.',
u'Ceci est un test de d\xe9tection de la langue.',
u'Dies ist ein Test, um die Sprache zu erkennen.',
u'Bonjour Mon ami. This is a language detection test.',
]
predicted = clf.predict(sentences)
for s, p in zip(sentences, predicted):
print(u'The language of "%s" is "%s"' % (s, target_names[p]))
戻り値 -
「これは言語検出テストです」の言語。は「えん」です
「Ceci est un test de détection de la langue」の言語。は「fr」です
「Dies ist ein Test, um die Sprache zu erkennen」の言葉。「ド」です
「ボンジュールモナミ。これは言語検出テストです。」の言語。は「えん」です