1.1 引言
    正如我们根据过去的经验来判断明天的天气，吃货们希望从购买经验中挑选一个好瓜，那能不能让计算机帮助人类来实现这个呢？机器学习正是这样的一门学科，人的“经验”对应计算机中的“数据”，让计算机来学习这些经验数据，生成一个算法模型，在面对新的情况中，计算机便能作出有效的判断，这便是机器学习。

    [Mitchell, 1997]
    另一本经典教材的作者Mitchell给出了一个形式化的定义，假设：

    • P：计算机程序在某任务类T上的性能。
    • T：计算机程序希望实现的任务类。
    • E：表示经验，即历史的数据集。

    若该计算机程序通过利用经验E在任务T上获得了性能P的改善，则称该程序对E进行了学习。

    1.2 基本术语
    假设我们收集了一批西瓜的数据，例如：（色泽=青绿;根蒂=蜷缩;敲声=浊响)， (色泽=乌黑;根蒂=稍蜷;敲声=沉闷)， (色泽=浅自;根蒂=硬挺;敲声=清脆)……每对括号内是一个西瓜的记录，定义：

    数据集：

    • 所有记录的集合为：数据集。
    • 所有训练样本的集合为：训练集（trainning set），[特殊]。
    • 所有测试样本的集合为：测试集（test set），[一般]。

    样本、属性、维数：

    • 每一条记录为：一个实例（instance）或样本（sample）。
    • 例如：色泽或敲声，单个的特点为特征（feature）或属性（attribute）。
    • 对于一条记录，如果在坐标轴上表示，每个西瓜都可以用坐标轴中的一个点表示，一个点也是一个向量，例如（青绿，蜷缩，浊响），即每个西瓜为：一个特征向量（feature vector）。

    • 一个样本的特征数为：维数（dimensionality），该西瓜的例子维数为3，当维数非常大时，也就是现在说的“维数灾难”。

    • 机器学习出来的模型适用于新样本的能力为：泛化能力（generalization），即从特殊到一般。