摘要:如果你是机器学习的初学者,这将是一个很好的热身练习例程。首先,教你如何安装Python 和相关机器学习的库模块,同时,会教你如何用数据库里面的数据,然后,会教你如何用不同的机器学习算法对数据库里的数据进行分类预测,最后,比较各种预测算法的准确性。

第一步 安装Python和相关库模块(以win10为例)

  1. 下载python 下载地址: https://www.python.org/downloads/
    推荐下载Python 3.6.0 以上的版本。
    2. 安装Python,路径推荐使用”c:\python36”一路默认值安装到底
    3. 在环境变量PATH中增加”c:\python36”. 此步只是为了能够用cmd更方便的使用Python
    到此为止, Python就安装好了, 下面介绍安装pip
    1. 下载pip, 下载地址: https://bootstrap.pypa.io/get-pip.py
    2. 将”get.pip.py” 拷贝到“c:\python36”,并打开CMD 命令行
    3. 在CMD里输入
    python -m pip install —upgrade pip setuptools wheel
    接下来, 安装机器学习相关的苦模块,如下是5个关键机器学习库:
  • scipy
  • numpy
  • matplotlib
  • pandas
  • sklearn

以scipy为例,在CMD里输入“ python -m pip install scipy” 等待安装完成。一次安装完成上述库模块。
在CMD里面输入python 回车,然后运行如下命令,检查模块版本。

  1. 1. # Check the versions of libraries
  2. 2.
  3. 3. # Python version
  4. 4. import sys
  5. 5. print('Python: {}'.format(sys.version))
  6. 6. # scipy
  7. 7. import scipy
  8. 8. print('scipy: {}'.format(scipy.__version__))
  9. 9. # numpy
  10. 10. import numpy
  11. 11. print('numpy: {}'.format(numpy.__version__))
  12. 12. # matplotlib
  13. 13. import matplotlib
  14. 14. print('matplotlib: {}'.format(matplotlib.__version__))
  15. 15. # pandas
  16. 16. import pandas
  17. 17. print('pandas: {}'.format(pandas.__version__))
  18. 18. # scikit-learn
  19. 19. import sklearn
  20. 20. print('sklearn: {}'.format(sklearn.__version__))

结果

1. Python: 2.7.11 (default, Mar  1 2016, 18:40:10) 
2. [GCC 4.2.1 Compatible Apple LLVM 7.0.2 (clang-700.1.81)]
3. scipy: 0.17.0
4. numpy: 1.10.4
5. matplotlib: 1.5.1
6. pandas: 0.17.1
7. sklearn: 0.18.1

第二步 加载数据库数据

从开始菜单打 开Python(GUI), 点击File-> New File,新建一个python 脚本文件,就可以开始编程了。点击窗口Run就可以运行程序。
下面介绍如何加载数据库

1. 导入库

1. # Load libraries
2. import pandas
3. from pandas.plotting import scatter_matrix
4. import matplotlib.pyplot as plt
5. from sklearn import model_selection
6. from sklearn.metrics import classification_report
7. from sklearn.metrics import confusion_matrix
8. from sklearn.metrics import accuracy_score
9. from sklearn.linear_model import LogisticRegression
10. from sklearn.tree import DecisionTreeClassifier
11. from sklearn.neighbors import KNeighborsClassifier
12. from sklearn.discriminant_analysis import LinearDiscriminantAnalysis
13. from sklearn.naive_bayes import GaussianNB
14. from sklearn.svm import SVC

2. 加载数据

下面以花朵尺寸数据库为例,用多种机器学习算法来做花种类的分类。首先加载数据

1. # Load dataset
2. url = "https://archive.ics.uci.edu/ml/machine-learning-databases/iris/iris.data"
3. names = ['sepal-length', 'sepal-width', 'petal-length', 'petal-width', 'class']
4. dataset = pandas.read_csv(url, names=names)

3 数据可视化

然后, 我们让这些数据可视化。

1. # head
2. print(dataset.head(20))
3. # scatter plot matrix
4. scatter_matrix(dataset)
5. plt.show()

第三步 用不同的机器学习算法进行分类预测选择最优模型

1 训练数据,测试数据

  1. 先将数据库里的数据分成两组: 80% 数据作为机器学习的训练数据, 20%的数据用来测试算法。
1. # Split-out validation dataset
2. array = dataset.values
3. X = array[:,0:4]
4. Y = array[:,4]
5. validation_size = 0.20
6. seed = 7
7. X_train, X_validation, Y_train, Y_validation = model_selection.train_test_split(X, Y, test_size=validation_size, random_state=seed)

X_train 是花朵尺寸数据
Y_train 是花朵的种类

X-validation 是等待验证算法的花朵尺寸数据
Y_validation 是花朵尺寸X-validation对应的实际花朵类型

2. 设定参数

1. # Test options and evaluation metric
2. seed = 7
3. scoring = 'accuracy'

3. 建立模型

由于我们不确定那个机器学习的算法更适用该分类,因此我们选择如下几个算法去评估:

  • Logistic Regression (LR)
  • Linear Discriminant Analysis (LDA)
  • K-Nearest Neighbors (KNN).
  • Classification and Regression Trees (CART).
  • Gaussian Naive Bayes (NB).
  • Support Vector Machines (SVM). ```
  1. Spot Check Algorithms

  2. models = []
  3. models.append((‘LR’, LogisticRegression()))
  4. models.append((‘LDA’, LinearDiscriminantAnalysis()))
  5. models.append((‘KNN’, KNeighborsClassifier()))
  6. models.append((‘CART’, DecisionTreeClassifier()))
  7. models.append((‘NB’, GaussianNB()))
  8. models.append((‘SVM’, SVC()))
  9. evaluate each model in turn

  10. results = []
  11. names = []
  12. for name, model in models:
  13. kfold = model_selection.KFold(n_splits=10, random_state=seed)
  14. cv_results = model_selection.cross_val_score(model, X_train, Y_train, cv=kfold, scoring=scoring)
  15. results.append(cv_results)
  16. names.append(name)
  17. msg = “%s: %f (%f)” % (name, cv_results.mean(), cv_results.std())
  18. print(msg)
    <a name="741f864f"></a>
    ###  4. 选择最优模型
    根据上述程序的运行结果,KNN的准确率0.983333 是所有算法中最高的。因此我们选择KNN机器学习算法去做X-valication的分类预测。
    
  19. LR: 0.966667 (0.040825)
  20. LDA: 0.975000 (0.038188)
  21. KNN: 0.983333 (0.033333)
  22. CART: 0.975000 (0.038188)
  23. NB: 0.975000 (0.053359)
  24. SVM: 0.981667 (0.025000)
    <a name="1e34bb99"></a>
    ## 第四步 进行预测
    用KNN算法进行预测
    
  25. Make predictions on validation dataset

  26. knn = KNeighborsClassifier()
  27. knn.fit(X_train, Y_train)
  28. predictions = knn.predict(X_validation)
  29. print(accuracy_score(Y_validation, predictions))
  30. print(confusion_matrix(Y_validation, predictions))
  31. print(classification_report(Y_validation, predictions))
    如下是运行结果
    
  32. 0.9
  33. [[ 7 0 0]
  34. [ 0 11 1]
  35. [ 0 2 9]]
  36. precision recall f1-score support
  37. Iris-setosa 1.00 1.00 1.00 7
  38. Iris-versicolor 0.85 0.92 0.88 12
  39. Iris-virginica 0.90 0.82 0.86 11
  40. avg / total 0.90 0.90 0.90 30 ``` 此外, 开可以直接打印出“predictions”和“Y-validation”比较预测值 和 实际值的结果。

===================================

这篇文章是翻译的大牛的作品,本人已经运行过,这是一个很好的机器学习的开端。

如果有任何问题可以邮件联系我,我们彼此探讨 jl_shen@163.com

原文地址: 点击打开链接
最后, 祝好运!