本文档是对课程内容的简单整理。

  • 前缀Z_ 为正课视频的简称，如Z1为正课视频第1课
  • 前缀G_ 为更新视频的简称，如G1为更新视频第1课

分类是已知类别的，聚类未知。

  • 聚类后，我们可以更加准确的在每个类中单独使用统计模型进行估计、分析或预测；
  • 也可以探究不同类之间的相关性和主要差异。

聚类需要统一量纲

K-means K-means++聚类

文章
2019D
D19105320030.pdf
（D19100010050.pdf）

SPSS

SPSS操作 需要统一量纲
SPSS操作 见Z10文档 D:\00000MCM\清风\0 课件和代码\正课配套的课件和代码\第10讲.聚类模型

Python

Python 见D:\00000py\1\mcm 2019d_q3_0030_PCAKmeans.py

  1. from sklearn.decomposition import PCA
  2. from sklearn.cluster import KMeans
  3. import matplotlib.pyplot as plt
  4. from mpl_toolkits.mplot3d import Axes3D
  5. import numpy as np
  6. import pandas as pd
  7. import copy
  8. import datetime
  10. paths = './datasets/2019d/'
  12. data1 = pd.read_excel(paths + 'feature1_forq3.xlsx', header=None)    #文件 1 特征参数数据
  13. data1 = pd.DataFrame(data1)
  14. data1 = np.array(data1)
  15. data0 = pd.read_excel(paths + 'data1_small_outforq2.xlsx', header=None)    #文件 1汽车运行数据
  16. data0 = pd.DataFrame(data0)
  17. data0 = np.array(data0)
  18. sport = pd.read_excel(paths + 'sport1_forq3.xlsx', header=None)  # 文件 1 运动学片段
  19. sport = pd.DataFrame(sport)
  20. sport = np.array(sport)
  21. sport = sport - np.array([[1, 1, 0]] * sport.shape[0])
  23. # 合并数据 转换数据
  24. data = data1.tolist()
  25. data = np.array(data)  # (200, 15)   200行数据 15特征
  27. #PCA 3 个主成分
  28. pca_d = PCA(n_components=3)    #选择 3 个主成分
  29. data_new = pca_d.fit_transform(data)  # (200, 3)  200行数据 3主成分
  30. clust = KMeans(n_clusters=3)    #构造聚类,分 3 类
  31. clust.fit(data_new)    #聚类
  32. label_p = clust.labels_    #获取聚类标签  (200, )  200行数据 1标签     范围 0 1 2
  34. la1 = data_new[label_p == 0]   # (170, 3)
  35. la2 = data_new[label_p == 1]   # (24, 3)
  36. la3 = data_new[label_p == 2]   # (6, 3)
  37. x1=[]
  38. y1=[]
  39. z1=[]
  40. x2=[]
  41. y2=[]
  42. z2=[]
  43. x3=[]
  44. y3=[]
  45. z3=[]
  46. for i in range(la1.shape[0]):  # 三位空间分布
  47.     x1.append(la1[i][0])
  48.     y1.append(la1[i][1])
  49.     z1.append(la1[i][2])
  50. for i in range(la2.shape[0]):
  51.     x2.append(la2[i][0])
  52.     y2.append(la2[i][1])
  53.     z2.append(la2[i][2])
  54. for i in range(la3.shape[0]):
  55.     x3.append(la3[i][0])
  56.     y3.append(la3[i][1])
  57.     z3.append(la3[i][2])
  58. fig = plt.figure()
  59. ax = fig.add_subplot(111, projection='3d')
  60. ax.scatter(x1,y1,z1,c='b')
  61. ax.scatter(x2,y2,z2,c='r')
  62. ax.scatter(x3,y3,z3,c='k')
  63. plt.show()

系统（层次）聚类

SPSS

SPSS操作 树状图 聚合系数折线图(用于确定聚类K值) 画出分类结果示意图

DBSCAN算法（密度的聚类方法）

能在具有噪声的空间数据库中发现任意形状的簇，可将密度足够大的相邻区域连接，能有效处理异常数据。

Matlab

D:\00000MCM\清风\0 课件和代码\正课配套的课件和代码\第10讲.聚类模型\代码和例题数据\DBSCAN Clustering

聚类算法对比

2018C 1
image.png