数据归一化 - MinMaxScaler
即把数据缩放到0-1之间,当数据(x)按照最小值中心化后,再按极差(最大值 - 最小值)缩放,数据移动了最小值个单位,并且会被收敛到[0,1]之间,而这个过程,就叫做数据归一化(Normalization,又称Min-Max Scaling)。注意,Normalization是归一化,不是正则化,真正的正则化是regularization,不是数据预处理的一种手段。归一化之后的数据服从正态分布,归一化公式如下:
from sklearn.preprocessing import MinMaxScalerdata = [[-1, 2], [-0.5, 6], [0, 10], [1, 18]]#不太熟悉numpy的小伙伴,能够判断data的结构吗?如果换成表是什么样子?import pandas as pdpd.DataFrame(data)#实现归一化scaler = MinMaxScaler()#实例化scaler = scaler.fit(data)#fit,在这里本质是生成min(x)和max(x)result = scaler.transform(data)#该函数可以将归一化后的结果逆转回原数据scaler.inverse_transform(result)# 也可以执行该函数一步达到结果result_ = scaler.fit_transform(data)#使用MinMaxScaler的参数feature_range实现将数据归一化到[0,1]以外的范围中data = [[-1, 2], [-0.5, 6], [0, 10], [1, 18]]scaler = MinMaxScaler(feature_range=[5,10])
import numpy as npX = np.array([[-1, 2], [-0.5, 6], [0, 10], [1, 18]])#归一化X_nor = (X - X.min(axis=0)) / (X.max(axis=0) - X.min(axis=0))#逆转归一化X_returned = X_nor * (X.max(axis=0) - X.min(axis=0)) + X.min(axis=0)
数据标准化 - StandardScaler
当数据(x)按均值(μ)中心化后,再按标准差(σ)缩放,数据就会服从为均值为0,方差为1的正态分布(即标准正态分布),而这个过程,就叫做数据标准化(Standardization,又称Z-score normalization)。公式如下:
from sklearn.preprocessing import StandardScalerdata = [[-1, 2], [-0.5, 6], [0, 10], [1, 18]]scaler = StandardScaler()#实例化scaler.fit(data)#fit,本质是生成均值和方差scaler.mean_ #查看均值的属性mean_scaler.var_ #查看方差的属性var_x_std = scaler.transform(data) #通过接口导出结果x_std.mean() #导出的结果是一个数组,用mean()查看均值x_std.std() #用std()查看方差scaler.fit_transform(data) #使用fit_transform(data)一步达成结果scaler.inverse_transform(x_std) #使用inverse_transform逆转标准化
总结
对于StandardScaler和MinMaxScaler来说,空值NaN会被当做是缺失值,在fit的时候忽略,在transform的时候
保持缺失NaN的状态显示。并且,尽管去量纲化过程不是具体的算法,但在fit接口中,依然只允许导入至少二维数组,一维数组导入会报错。通常来说,我们输入的X会是我们的特征矩阵,现实案例中特征矩阵不太可能是一维所以不会存在这个问题。
大多数机器学习算法中,会选择StandardScaler来进行特征缩放,因为MinMaxScaler对异常值非常敏感。在PCA,聚类,逻辑回归,支持向量机,神经网络这些算法中,StandardScaler往往是最好的选择。MinMaxScaler在不涉及距离度量、梯度、协方差计算以及数据需要被压缩到特定区间时使用广泛,比如数字图像
处理中量化像素强度时,都会使用MinMaxScaler将数据压缩于[0,1]区间之中。
建议先试试看StandardScaler,效果不好换MinMaxScaler。
除了StandardScaler和MinMaxScaler之外,sklearn中也提供了各种其他缩放处理(中心化只需要一个pandas广
播一下减去某个数就好了,因此sklearn不提供任何中心化功能)。比如,在希望压缩数据,却不影响数据的稀疏
性时(不影响矩阵中取值为0的个数时),我们会使用MaxAbsScaler;在异常值多,噪声非常大时,我们可能会选用分位数来无量纲化,此时使用RobustScaler。
