问题描述
我正在尝试训练分类器,以将新闻标题作为输入,并输出适合以下标题的标签。我的数据包含一堆新闻标题作为输入变量,而这些标题的元标记作为输出变量。
I One-Hot_Entitled将标题及其对应的元标记都编码为两个单独的CSV。然后,我将它们组合成一个大数据帧,其中X_train值是标题词的5573x958 numpy数组,y_train值是5573x843的numpy数组。
以下是包含我的data in One-Hot-Encoded form的熊猫数据框的以下图像。
分类器的目标是让我输入标题,并将与该标题最相关的标签作为输出。我的问题如下。
X_train = train_set.iloc[:,:958].values
X_train.shape
(out) (5573,958)
y_train = train_set.iloc[:,958:].values
y_train.shape
(out) (5573,843)
from sklearn.naive_bayes import MultinomialNB
nb_clf = MultinomialNB().fit(X_train,y_train)
bad input shape (5573,843)
根据我的研究,拥有多标签目标值的唯一方法是对它们进行一次热编码,因为当我尝试LabelEncoder()或MultiLabelBinarizer()时,我必须指定每个列的名称为二值化后,当我要指定800多个列(单词)时,我不知道该怎么做。因此,我只是对它们进行了一次热编码,我相信它们会得到相同的结果,只是分类器不喜欢将其用作输入。关于如何解决此问题的任何建议?
解决方法
您可以使用Sklearn的多目标分类。这是一个示例:
from sklearn.multioutput import MultiOutputClassifier
from sklearn.naive_bayes import MultinomialNB
nb_clf = MultiOutputClassifier(MultinomialNB()).fit(X_train,y_train)
中查看文档。