1.欧氏距离（Euclidean Distance）

即欧式空间中两点间的距离公式

2. 曼哈顿距离(Manhatton Distance)

曼哈顿距离也称城市街区距离

3. 切比雪夫距离(Chebyshev Distance)

4. 闵可夫斯基距离(Minkowski Distance)

当 p=1时，就是马哈顿距离
当 p=2 时，就是欧氏距离
当 p → ，就是切比雪夫距离
缺点：1）将各分量的量纲(scale)，即“单位”当作相同的看待了。2）没有考虑各个分量的分布（期望、方差）可能是不同的。

5. 标准化欧氏距离

标准化欧氏距离是针对简单欧氏距离的缺点而作的一种改进方案。先将各个分量都“标准 化”到均值、方差相等。假设样本集X的均值(mean)为m，标准差(standard deviation)为s。而且标准化变量的数学期望为0，方差为1。因此样本集的标准化过程(standardization)用公式描述就是：

标准化欧氏距离的公式：

　如果将方差的倒数看成是一个权重，这个公式可以看成是一种加权欧氏距离(Weighted Euclidean distance)。

6. 马氏距离(Mahalanobis Distance)

有 M 个样本向量X1~Xm，协方差矩阵记为 S，均值记为向量 μ，则其中样本向量 X 到 u 的马氏距离表示为：

而其中向量 Xi 与 Xj 之间的马氏距离定义为：

若协方差矩阵是单位矩阵（各个样本向量之间独立同分布）,就是欧氏距离。　若协方差矩阵是对角矩阵，公式变成了标准化欧氏距离。

7. 夹角余弦(Cosine)

欧氏距离和余弦相似度的区别：

• 欧氏距离能够体现个体数值特征的绝对差异，所以更多的用于需要从维度的数值大小中体现差异的分析，如使用用户行为指标分析用户价值的相似度或 差异；
• 而余弦相似度更多的是从方向上区分差异，而对绝对的数值不敏感，更多的用于使用用户对内容评分来区分用户兴趣的相似度和差异，同时修正了用户间可能 存在的度量标准不统一的问题（因为余弦相似度对绝对数值不敏感）。

  8. 汉明距离(Hamming distance)

  两个等长字符串s1与s2之间的汉明距离定义为将其中一个变为另外一个所需要作的最小替换次数。应用：信息编码（为了增强容错性，应使得编码间的最小汉明距离尽可能大）。

  9. 杰卡德距离 & 杰卡德相似系数(Jaccard similarity coefficient)

  两个集合 A 和 B 的交集元素在 A，B 的并集中所占的比例，称为两个集合的杰卡德相似系数，用符号 J(A,B) 表示。
  
  杰卡德相似系数是衡量两个集合的相似度一种指标。
  与杰卡德相似系数相反的概念是杰卡德距离(Jaccard distance)。杰卡德距离可用如下公式表示：
  
  杰卡德距离用两个集合中不同元素占所有元素的比例来衡量两个集合的区分度。
  可将杰卡德相似系数用在衡量样本的相似度上。
  　　样本A与样本B是两个n维向量，而且所有维度的取值都是0或1。例如：A(0111)和B(1011)。我们将样本看成是一个集合，1表示集合包含该元素，0表示集合不包含该元素。
  p ：样本A与B都是1的维度的个数
  q ：样本A是1，样本B是0的维度的个数
  r ：样本A是0，样本B是1的维度的个数
  s ：样本A与B都是0的维度的个数
  那么样本A与B的杰卡德相似系数可以表示为：
  这里p+q+r可理解为A与B的并集的元素个数，而p是A与B的交集的元素个数。
  而样本A与B的杰卡德距离表示为：
  

  10. 相关系数 & 相关距离

  相关系数

  
  相关系数是衡量随机变量X与Y相关程度的一种方法，相关系数的取值范围是[-1,1]。相关系数的绝对值越大，则表明X与Y相关度越高。当X与Y线性相关时，相关系数取值为1（正线性相关）或-1（负线性相关）。

  相关距离

  

  11. 信息熵