使用线性SVC的图像分类

问题描述

我正在尝试学习线性SVC在SVM中的工作方式,并为此尝试通过对不同参数进行训练和测试来复制一个简单的实验。问题是我似乎无法理解我如何使用我的数据来训练和测试线性SVC算法。基本上,我想做的是将图像识别与Linear SVC结合使用。

我有5个来自5个不同人物的相框,每个图片有22个特征。我的目标是简单地获得图像的训练率,我的问题是我获得100%的率,而当我期望某种程度的大约80%或更少时,我想知道如何才能达到适当的识别率? >

import sklearn
from sklearn.svm import SVC
from sklearn.model_selection import train_test_split
from sklearn import metrics

dataset = np.asarray(data)
target = np.asarray([1]*5 + [2]*5 + [3]*5 + [4]*5 + [5]*5)
svc_1 = SVC(kernel='linear')




X_train,X_test,y_train,y_test = train_test_split(
        dataset,target,test_size=0.35,random_state=0)


def train_and_evaluate(clf,X_train,y_test):
    
    clf.fit(X_train,y_train)
    print ("Accuracy on training set:")
    print (clf.score(X_train,y_train))
    print ("Accuracy on testing set:")
    print (clf.score(X_test,y_test))
    
    y_pred = clf.predict(X_test)
    
    print ("Classification Report:")
    print (metrics.classification_report(y_test,y_pred))
    print ("Confusion Matrix:")
    print (metrics.confusion_matrix(y_test,y_pred))


train_and_evaluate(svc_1,y_test)

这是我的代码,为了保存可视化效果,我将25x22矩阵上传到了pastebin:https://pastebin.com/6hL6Dign

这是我的输出

Accuracy on training set:
1.0
Accuracy on testing set:
1.0
Classification Report:
              precision    recall  f1-score   support

           1       1.00      1.00      1.00         1
           2       1.00      1.00      1.00         1
           3       1.00      1.00      1.00         1
           4       1.00      1.00      1.00         3
           5       1.00      1.00      1.00         3

    accuracy                           1.00         9
   macro avg       1.00      1.00      1.00         9
weighted avg       1.00      1.00      1.00         9

简而言之,我想做的是降低比率,因为我减少了数据集中的行数或/和列数,但是我一直保持100%的状态

解决方法

问题是-您的数据集在5个类之间确实分开了。

线索1-目标洗牌

改组目标会导致准确性下降。尝试在目标定义之后添加:

random.shuffle(target)  # Requires `import shuffle`

线索2-PCA

我使用principal component analysis (PCA)通过简化为两个功能来可视化您的数据:

from sklearn.decomposition import PCA
import matplotlib.pyplot as plt

pca = PCA(n_components=2)
pca_res = pca.fit_transform(data)
plt.scatter(pca_res[:,0],pca_res[:,1],color=list(map(' rgbyc'.__getitem__,target)))

结果:

PCA visualization

似乎很明显,这些类之间的分离很好-组内方差比组间方差小得多。显然,即使样本量很小,SVC也不难检测出正确的测试集类别。

修改

似乎甚至不需要PCA。单个特征(例如第二个特征)产生100%的分离。尝试使用以下代码进行编码:

dataset = np.asarray(data)[:,1:2]

并具有可视化功能:

import seaborn as sns
sns.boxplot(x=target,y=dataset[:,1])  # Original dataset used here

结果:

enter image description here