机器学习的本质

机器学习从本质上来说，就是让计算机去学习。

什么是神经网络

神经网络是按照一定规则将多个神经元连接起来的玩过。不同的神经网络，具有不同的连接规则。例如全连接神经网络(Full Connected,FC)，它的规则包括：

  1. 三层：输入层，输出层，隐藏层。
  2. 同一层的神经元之间之间没有连接。
  3. fully connected的含义：第N层的每个神经元和第N-1层的所有神经元相连，第N-1层神经元的输出就是第N层神经元的输入。
  4. 每个连接都有一个权值。

    各种常见算法

  • 回归算法
  • 聚类算法
  • 正则化方法
  • 决策树学习
  • 贝叶斯方法
  • 基于核的算法
  • 聚类算法
  • 关联规则学习
  • 人工神经网络
  • 深度学习
  • 降低维度算法
  • 集成算法

    计算图的导数计算

    计算图导数计算是反向传播，利用链式法则和隐式函数求导。

    理解局部最优与全局最优

    优化问题一般分为局部最优和全局最优。
    局部最优，计算在函数值空间的一个有限区域内寻找最小值。而全局最优，是在函数值整个区域寻找最小值。

    大数据与深度学习之间的关系

    大数据通常被定义为超出常用软件工程捕获，管理和处理能力的数据集。机器学习关系的问题是如何构建计算机程序使用经验自动改进。数据挖掘是从数据中提取模式的特定算法的应用，在数据挖掘，重点在于算法的应用，而不是算法本身。
    机器学习和数据挖掘之间的关系如下：数据挖掘是一个过程，在此过程中机器学习算法被用作提取数据集中的潜在有价值模式的工具。