方法	适用问题	模型特点	模型类型	学习策略	学习的损失函数	学习算法
Peceptron	二类分类	分离超平面	判别模型	极小化误分点到超平面距离	误分点到超平面距离	SGD
KNN	多类分类, 回归	特征空间, 样本点	判别模型
NB	多类分类	特征与类别的联合概率分布，条件独立假设	生成模型	极大似然估计MLE, 极大后验概率估计MAP	对数似然损失	概率计算公式, EM算法
DT	多类分类, 回归	分类数，回归树	判别模型	正则化的极大似然估计	对数似然损失	特征选择, 生成, 剪枝
LR Maxent	多类分类		判别模型	极大似然估计MLE	逻辑损失	梯度下降，拟牛顿法
SVM	二类分类	分离超平面，核技巧	判别模型	极小化合页损失，软间隔最大化	合页损失	序列最小最优化算法SMO
AdaBoost	二类分类	弱分类器的线性组合	判别模型	极小化加法模型的指数损失	指数损失	前向分步加法算法
EM	概率模型参数估计	含隐变量的概率模型		极大似然估计MLE, 极大后验概率估计MAP	对数似然损失	迭代算法
HMM	标注	观测序列与状态序列的联合概率分布模型	生成模型	极大似然估计MLE, 极大后验概率估计MAP	对数似然损失	概率计算公式, EM算法
CRF	标注	状态序列条件下观测序列的条件概率分布模型	判别模型	极大似然估计MLE, 正则化的极大似然估计	对数似然损失	梯度下降，拟牛顿法