归纳和演绎

科学推理的两大手段
归纳：具体事实到一般性规律
演绎：基础原理推导出具体情况
从样例学习是归纳学习

假设空间

所有从输入到输出组成的映射构成的集合

学习过程

在所有假设组成的空间中进行搜索的过程
搜索目标是找到与训练集匹配的假设。