第二次热潮

1975 年至 1991 年

人工智能第二次热潮到来的标志性事件是 1982 年日本启动了雄心勃勃的五代机计划，计划在10年内建立可高效运行 Prolog 的智能计算系统。

五代机：第五代计算机，把信息采集、存储、处理、通信同人工智能结合在一起的智能计算机系统，至今未实现 Prolog（Programming in Logic）：一种逻辑编程语言。它创建在逻辑学的理论基础之上， 诞生与 1972 年，最初被运用于自然语言等研究领域。

与此同时，国际上面向领域的专家系统也开始出现了一些较为成功的案例，包括医学领域的 MYCIN 和CADUCEUS。

MYCIN系统：一种帮助医生对住院的血液感染患者进行诊断和选用抗菌素类药物进行治疗的人工智能。使用了人工智能的早期模拟决策系统，用来进行严重感染时的感染菌诊断以及抗生素给药推荐系统。 CADUCEUS ( 原名INTERNIST )系统：20世界70年代研制的医疗咨询专家系统，由匹兹堡大学的计算机专家和内科专家合作研制，用于内科疾病诊断。

有的专家系统甚至在商业中发挥了实际作用。例如，DEC 的专家系统 R1 可以按照用户的需求，为 VAX 型计算机系统自动选购软硬件组件。

DEC公司与卡内基-梅隆大学合作开发的XCON-R1专家系统：用于辅助数据设备公司（DEC）计算机系统的配置设计

20世纪80年代中期，神经网络方法也迎来了一次革命。反向传播学习算法则的提出，使得神经网络重新成为研究的焦点，成为与符号主义并驾齐驱的连接主义方法。

20世纪80年代末，人工智能开始结合数学理论，形成更实际的应用。

隐马尔可夫模型( Hidden Markov Model HMM)开始用于语音识别，提供了理解问题的数学框架，有效应对实际应用

信息论用于机器翻译

贝叶斯网络 (Bayesian network) 用于非确定的推理和专家系统，对非确定性知识提供了有效的表示和严格的推理。

应该说，在第二次热潮中，符号主义依然是旗手。

无论是日本五代机使用的 Prolog，还是专家系统 MYCIN 使用的 LISP，其核心还都是符号逻辑的推理。

LISP：一种通用高级计算机程序语言，长期以来垄断人工智能领域的应用。LISP作为应用人工智能而设计的语言，是第一个声明式系内函数式程序设计语言，有别于命令式系内过程式的C、Fortran和面向对象的Java、C#等结构化程序设计语言。

但是，研究者逐渐发现，符号主义方法存在很多难以克服的困难，例如缺乏有足够表示能力同时又比较简练的
逻辑，以及逻辑问题求解器的时间复杂度极高等。

另一方面，连接主义方法 (如神经网络) 也没有找到真正落地的杀手级应用。

随着1991年日本五代机计划的失败，第二次热潮退去，人工智能跌人了长达近 20 年的第二次冬天。

第三次热潮

2006 年至今

2006年，G. Hinton 和 R. Salakhutdinov 在 Science 上撰文指出，多隐层的神经网络可以刻画数据的本质属性，借助无监督的逐层初始化方法可以克服深度神经网络训练困难的问题。

Hinton GE, Salakhutdinov RR. Reducing the dimensionality of data with neural networks. Science. 2006 Jul 28;313(5786):504-7. doi: 10.1126/science.1127647. PMID: 16873662.

业界广泛认为，这篇论文吹响了深度学习(多层大规模神经网络)走向繁荣的号角，开启了人工智能第三次热潮。

2012 年，A. Krizhevsky、I. Sutskever 和 G. Hinton 年提出了一种新颖的深度学习神经网络 —— AlexNet，成为2012 ImageNet 大规模视觉识别比赛（ImageNet Large Scale Visual Recognition Competition，ILSVRC）的冠军，从此深度学习神经网络识得到了业界的广泛关注。

Krizhevsky, A., Sutskever, I., and Hinton, G. (2012). ImageNet classification with deep convolutional neural networks. In NIPS’2012.

随着数据集和模型规模的增长，深度学习神经网络识别精度越来越高，在语音识别，人脸识别，机器翻译等领域应用越来越广泛。

2016 年，谷歌 DeepMind 团队研制的基于深度学习的围棋程序 AlphaGo 战胜了人类围棋世界冠军李世石，进一步推动了第三次热潮的发展，使得人工智能、机器学习、深度学习、神经网络这些词成为大众的关注焦点。

Silver, D., Huang, A., Maddison, C. et al. Mastering the game of Go with deep neural networks and tree search. Nature 529, 484–489 (2016). https://doi.org/10.1038/nature16961

第三次热潮中的人工智能与达特茅斯会议时已经有显著的区别。

当前学术界人工智能领域的研究热点方向主要是机器学习、神经网络、计算机视觉。

这三个方向在某种意义上是非常相关的。神经网络是一种机器学习的方法，计算机视觉是机器学习和神经网络的一一个重要的应用方向。

而 60 多年前达特茅斯会议上最核心的符号主义方法，却已经少有涉及。