这里我们有训练数据(x_train)和测试数据(x_test)以及all_data,它们与训练和测试数据结合在一起
因此,如果我们对数据进行标准化,那么您认为哪一种是最佳做法？
假设我们正在使用熊猫和sklearn
from sklearn.preprocessing import StandardScaler
scaler = StandardScaler()
>对火车数据进行标准化,然后应用于测试数据,然后
代码是：
06001
>对all_data进行标准化,然后应用于训练和测试数据,代码为：
06002
关于LabelEncoder和One-Hot编码分类功能的问题相同,您使用哪种方法？
先感谢您.
解决方法:
应使用情况1进行缩放,该情况1将缩放器仅适合您的训练集,然后对测试集使用相同的缩放.
您适合所有数据的情况2是数据侦听的一种形式,其中测试集中的信息正在泄漏到您的训练集中.这会导致非常错误的结果.阿布·穆斯塔法(Abu Mustafa)的数据学习课上有fantastic segment对此进行了介绍.
对于标签编码,假设您为所有类别列中的每个唯一值创建一个二进制列.测试集中但训练集中没有类别的列将全部被编码为0.即使您决定一起对整个训练和测试数据集使用标签编码,在构建模型时所有类别不在训练集中的值将设置为0且不会影响您的模型-来自这些未知类别的权重将简单地添加到偏差单位中.
