1.深度学习简介

(1)深度学习定义

在维基百科中,对深度学习的定义是“一类通过多层非线性变换对高复杂性数据建模算法的集合”,一般认为深度学习就是深层神经网络的代名词。

(2)why 深度学习?

在郑泽宇的《TensorFlow实战》里,对于深度学习的出现有如下说明
深度学习概述 - 图1

(3)深度学习 VS 神经网络

在博客《神经网络浅讲:从神经元到深度学习》中,对深度学习和传统的神经网络有如下的比较:与传统的训练方式不同,深度学习有一个“预训练”的过程,这可以方便的让神经网络中的权值找到一个接近最优解的值,之后再使用“微调”技术来对整个网络进行优化训练,这两个技术的运用大幅度减少了训练多层神经网络的时间。
与两层层神经网络不同,深度学习中的层数增加了很多,增加更多的层次有什么好处?更深入的表示特征,以及更强的函数模拟能力。更深入的表示特征可以这样理解,随着网络的层数增加,每一层对于前一层次的抽象表示更深入。在神经网络中,每一层神经元学习到的是前一层神经元值的更抽象的表示。