数据归一化 - MinMaxScaler

即把数据缩放到0-1之间,当数据(x)按照最小值中心化后,再按极差(最大值 - 最小值)缩放,数据移动了最小值个单位,并且会被收敛到[0,1]之间,而这个过程,就叫做数据归一化(Normalization,又称Min-Max Scaling)。注意,Normalization是归一化,不是正则化,真正的正则化是regularization,不是数据预处理的一种手段。归一化之后的数据服从正态分布,归一化公式如下:
数据归一化和标准化 - 图1

  1. from sklearn.preprocessing import MinMaxScaler
  2. data = [[-1, 2], [-0.5, 6], [0, 10], [1, 18]]
  3. #不太熟悉numpy的小伙伴,能够判断data的结构吗?如果换成表是什么样子?
  4. import pandas as pd
  5. pd.DataFrame(data)
  6. #实现归一化
  7. scaler = MinMaxScaler()
  8. #实例化
  9. scaler = scaler.fit(data)
  10. #fit,在这里本质是生成min(x)和max(x)
  11. result = scaler.transform(data)
  12. #该函数可以将归一化后的结果逆转回原数据
  13. scaler.inverse_transform(result)
  14. # 也可以执行该函数一步达到结果
  15. result_ = scaler.fit_transform(data)
  16. #使用MinMaxScaler的参数feature_range实现将数据归一化到[0,1]以外的范围中
  17. data = [[-1, 2], [-0.5, 6], [0, 10], [1, 18]]
  18. scaler = MinMaxScaler(feature_range=[5,10])
  1. import numpy as np
  2. X = np.array([[-1, 2], [-0.5, 6], [0, 10], [1, 18]])
  3. #归一化
  4. X_nor = (X - X.min(axis=0)) / (X.max(axis=0) - X.min(axis=0))
  5. #逆转归一化
  6. X_returned = X_nor * (X.max(axis=0) - X.min(axis=0)) + X.min(axis=0)

数据标准化 - StandardScaler

当数据(x)按均值(μ)中心化后,再按标准差(σ)缩放,数据就会服从为均值为0,方差为1的正态分布(即标准正态分布),而这个过程,就叫做数据标准化(Standardization,又称Z-score normalization)。公式如下:
数据归一化和标准化 - 图2

  1. from sklearn.preprocessing import StandardScaler
  2. data = [[-1, 2], [-0.5, 6], [0, 10], [1, 18]]
  3. scaler = StandardScaler()
  4. #实例化
  5. scaler.fit(data)
  6. #fit,本质是生成均值和方差
  7. scaler.mean_ #查看均值的属性mean_
  8. scaler.var_ #查看方差的属性var_
  9. x_std = scaler.transform(data) #通过接口导出结果
  10. x_std.mean() #导出的结果是一个数组,用mean()查看均值
  11. x_std.std() #用std()查看方差
  12. scaler.fit_transform(data) #使用fit_transform(data)一步达成结果
  13. scaler.inverse_transform(x_std) #使用inverse_transform逆转标准化

总结

对于StandardScaler和MinMaxScaler来说,空值NaN会被当做是缺失值,在fit的时候忽略,在transform的时候
保持缺失NaN的状态显示。并且,尽管去量纲化过程不是具体的算法,但在fit接口中,依然只允许导入至少二维数组,一维数组导入会报错。通常来说,我们输入的X会是我们的特征矩阵,现实案例中特征矩阵不太可能是一维所以不会存在这个问题。
大多数机器学习算法中,会选择StandardScaler来进行特征缩放,因为MinMaxScaler对异常值非常敏感。在PCA,聚类,逻辑回归,支持向量机,神经网络这些算法中,StandardScaler往往是最好的选择。MinMaxScaler在不涉及距离度量、梯度、协方差计算以及数据需要被压缩到特定区间时使用广泛,比如数字图像
处理中量化像素强度时,都会使用MinMaxScaler将数据压缩于[0,1]区间之中。
建议先试试看StandardScaler,效果不好换MinMaxScaler。
除了StandardScaler和MinMaxScaler之外,sklearn中也提供了各种其他缩放处理(中心化只需要一个pandas广
播一下减去某个数就好了,因此sklearn不提供任何中心化功能)。比如,在希望压缩数据,却不影响数据的稀疏
性时(不影响矩阵中取值为0的个数时),我们会使用MaxAbsScaler;在异常值多,噪声非常大时,我们可能会选用分位数来无量纲化,此时使用RobustScaler。