实验结果：

手写数字mnist逻辑回归下的accuracy和混淆矩阵；

决策树分类器的结果：

随机森林的结果：预料之中

knn算法：

这是多项式分布-朴素贝叶斯算法；

这是伯努利贝叶斯引入了对类别y下的关键特征i不出现的惩罚

这是简单的卷积神经网络结构：

这就是简单的卷积神经网络准确率：0.99

对于IMDB的神经网络训练轮次和误差变化，可以看到3轮左右网络严重过拟合了。

这里采用的是Adam优化器

这里使用的是“RMSprop”是一个基于AdaGrad算法优化出来可以进行收敛，可以看到下降速度确实快。

SGD下降过程很慢，按照预计应该是产生了波动，

NAdam动量项的Adam，对学习率约束性更强，


以上是几种优化器的可视化对比：
可以知道NAG和Adam 下降速率是比较快的，sgd在神经网络上会在不够均匀的部分下降速度缓慢。

猫狗识别cnn：

可以看见模型处理过程中特征图的深度一直在增加，但是相应的尺寸一直是在缩小，

使用dropout之后，还有数据增强。