摘要:如果你是机器学习的初学者,这将是一个很好的热身练习例程。首先,教你如何安装Python 和相关机器学习的库模块,同时,会教你如何用数据库里面的数据,然后,会教你如何用不同的机器学习算法对数据库里的数据进行分类预测,最后,比较各种预测算法的准确性。
第一步 安装Python和相关库模块(以win10为例)
- 下载python 下载地址: https://www.python.org/downloads/
推荐下载Python 3.6.0 以上的版本。
2. 安装Python,路径推荐使用”c:\python36”一路默认值安装到底
3. 在环境变量PATH中增加”c:\python36”. 此步只是为了能够用cmd更方便的使用Python
到此为止, Python就安装好了, 下面介绍安装pip
1. 下载pip, 下载地址: https://bootstrap.pypa.io/get-pip.py
2. 将”get.pip.py” 拷贝到“c:\python36”,并打开CMD 命令行
3. 在CMD里输入
python -m pip install —upgrade pip setuptools wheel
接下来, 安装机器学习相关的苦模块,如下是5个关键机器学习库:
- scipy
- numpy
- matplotlib
- pandas
- sklearn
以scipy为例,在CMD里输入“ python -m pip install scipy” 等待安装完成。一次安装完成上述库模块。
在CMD里面输入python 回车,然后运行如下命令,检查模块版本。
1. # Check the versions of libraries
2.
3. # Python version
4. import sys
5. print('Python: {}'.format(sys.version))
6. # scipy
7. import scipy
8. print('scipy: {}'.format(scipy.__version__))
9. # numpy
10. import numpy
11. print('numpy: {}'.format(numpy.__version__))
12. # matplotlib
13. import matplotlib
14. print('matplotlib: {}'.format(matplotlib.__version__))
15. # pandas
16. import pandas
17. print('pandas: {}'.format(pandas.__version__))
18. # scikit-learn
19. import sklearn
20. print('sklearn: {}'.format(sklearn.__version__))
结果
1. Python: 2.7.11 (default, Mar 1 2016, 18:40:10)
2. [GCC 4.2.1 Compatible Apple LLVM 7.0.2 (clang-700.1.81)]
3. scipy: 0.17.0
4. numpy: 1.10.4
5. matplotlib: 1.5.1
6. pandas: 0.17.1
7. sklearn: 0.18.1
第二步 加载数据库数据
从开始菜单打 开Python(GUI), 点击File-> New File,新建一个python 脚本文件,就可以开始编程了。点击窗口Run就可以运行程序。
下面介绍如何加载数据库
1. 导入库
1. # Load libraries
2. import pandas
3. from pandas.plotting import scatter_matrix
4. import matplotlib.pyplot as plt
5. from sklearn import model_selection
6. from sklearn.metrics import classification_report
7. from sklearn.metrics import confusion_matrix
8. from sklearn.metrics import accuracy_score
9. from sklearn.linear_model import LogisticRegression
10. from sklearn.tree import DecisionTreeClassifier
11. from sklearn.neighbors import KNeighborsClassifier
12. from sklearn.discriminant_analysis import LinearDiscriminantAnalysis
13. from sklearn.naive_bayes import GaussianNB
14. from sklearn.svm import SVC
2. 加载数据
下面以花朵尺寸数据库为例,用多种机器学习算法来做花种类的分类。首先加载数据
1. # Load dataset
2. url = "https://archive.ics.uci.edu/ml/machine-learning-databases/iris/iris.data"
3. names = ['sepal-length', 'sepal-width', 'petal-length', 'petal-width', 'class']
4. dataset = pandas.read_csv(url, names=names)
3 数据可视化
然后, 我们让这些数据可视化。
1. # head
2. print(dataset.head(20))
3. # scatter plot matrix
4. scatter_matrix(dataset)
5. plt.show()
第三步 用不同的机器学习算法进行分类预测选择最优模型
1 训练数据,测试数据
- 先将数据库里的数据分成两组: 80% 数据作为机器学习的训练数据, 20%的数据用来测试算法。
1. # Split-out validation dataset
2. array = dataset.values
3. X = array[:,0:4]
4. Y = array[:,4]
5. validation_size = 0.20
6. seed = 7
7. X_train, X_validation, Y_train, Y_validation = model_selection.train_test_split(X, Y, test_size=validation_size, random_state=seed)
X_train 是花朵尺寸数据
Y_train 是花朵的种类
X-validation 是等待验证算法的花朵尺寸数据
Y_validation 是花朵尺寸X-validation对应的实际花朵类型
2. 设定参数
1. # Test options and evaluation metric
2. seed = 7
3. scoring = 'accuracy'
3. 建立模型
由于我们不确定那个机器学习的算法更适用该分类,因此我们选择如下几个算法去评估:
- Logistic Regression (LR)
- Linear Discriminant Analysis (LDA)
- K-Nearest Neighbors (KNN).
- Classification and Regression Trees (CART).
- Gaussian Naive Bayes (NB).
- Support Vector Machines (SVM). ```
Spot Check Algorithms
- models = []
- models.append((‘LR’, LogisticRegression()))
- models.append((‘LDA’, LinearDiscriminantAnalysis()))
- models.append((‘KNN’, KNeighborsClassifier()))
- models.append((‘CART’, DecisionTreeClassifier()))
- models.append((‘NB’, GaussianNB()))
- models.append((‘SVM’, SVC()))
evaluate each model in turn
- results = []
- names = []
- for name, model in models:
- kfold = model_selection.KFold(n_splits=10, random_state=seed)
- cv_results = model_selection.cross_val_score(model, X_train, Y_train, cv=kfold, scoring=scoring)
- results.append(cv_results)
- names.append(name)
- msg = “%s: %f (%f)” % (name, cv_results.mean(), cv_results.std())
- print(msg)
<a name="741f864f"></a> ### 4. 选择最优模型 根据上述程序的运行结果,KNN的准确率0.983333 是所有算法中最高的。因此我们选择KNN机器学习算法去做X-valication的分类预测。
- LR: 0.966667 (0.040825)
- LDA: 0.975000 (0.038188)
- KNN: 0.983333 (0.033333)
- CART: 0.975000 (0.038188)
- NB: 0.975000 (0.053359)
- SVM: 0.981667 (0.025000)
<a name="1e34bb99"></a> ## 第四步 进行预测 用KNN算法进行预测
Make predictions on validation dataset
- knn = KNeighborsClassifier()
- knn.fit(X_train, Y_train)
- predictions = knn.predict(X_validation)
- print(accuracy_score(Y_validation, predictions))
- print(confusion_matrix(Y_validation, predictions))
- print(classification_report(Y_validation, predictions))
如下是运行结果
- 0.9
- [[ 7 0 0]
- [ 0 11 1]
- [ 0 2 9]]
- precision recall f1-score support
- Iris-setosa 1.00 1.00 1.00 7
- Iris-versicolor 0.85 0.92 0.88 12
- Iris-virginica 0.90 0.82 0.86 11
- avg / total 0.90 0.90 0.90 30 ``` 此外, 开可以直接打印出“predictions”和“Y-validation”比较预测值 和 实际值的结果。
===================================
这篇文章是翻译的大牛的作品,本人已经运行过,这是一个很好的机器学习的开端。
如果有任何问题可以邮件联系我,我们彼此探讨 jl_shen@163.com
原文地址: 点击打开链接
最后, 祝好运!