1 Rn space Rn 空间

Vectors and spaces 向量与空间 - 图1 是所有二维实数向量构成的集合，Vectors and spaces 向量与空间 - 图2 是所有 Vectors and spaces 向量与空间 - 图3 维实数向量构成的集合

一个空间，必须是线性封闭的，即某几个点的线性组合一定是还是这个空间中的一点。

一个向量空间（vector space），必须满足以下三个性质：

任意两个空间中的向量 Vectors and spaces 向量与空间 - 图4，常数 Vectors and spaces 向量与空间 - 图5，有

  1. Vectors and spaces 向量与空间 - 图6, Vectors and spaces 向量与空间 - 图7 还在这个空间中
  2. 所有 Vectors and spaces 向量与空间 - 图8 的线性组合 Vectors and spaces 向量与空间 - 图9 还在这个空间中
  3. 必须包含零点

1.1 Subspace 子空间

image.png

一个子空间，必须包含零点。比如在 Vectors and spaces 向量与空间 - 图11 中，只有三种子空间：

  • 整个 Vectors and spaces 向量与空间 - 图12 是 Vectors and spaces 向量与空间 - 图13 的一个子空间
  • 任何一条过零点的直线是 Vectors and spaces 向量与空间 - 图14 的一个子空间
  • 零向量 —— 最小的空间

2 Column space & nullspace 列空间与零空间

2.1 Culumn space of A 矩阵 A 的列空间

假设现在有一 Vectors and spaces 向量与空间 - 图15 的矩阵 Vectors and spaces 向量与空间 - 图16
Vectors and spaces 向量与空间 - 图17
可以将 Vectors and spaces 向量与空间 - 图18 看作是 Vectors and spaces 向量与空间 - 图19 中的一个子空间，而 Vectors and spaces 向量与空间 - 图20 的列空间（column space），可以被记作 Vectors and spaces 向量与空间 - 图21，就是 Vectors and spaces 向量与空间 - 图22 的所有列向量的任意线性组合的向量的集合，他们长成（span）一个空间。

在这里我们可以问一个问题：对于任意的 Vectors and spaces 向量与空间 - 图23，Vectors and spaces 向量与空间 - 图24 都有解吗？
这个问题可以转化为，由 Vectors and spaces 向量与空间 - 图25 中所有列向量组成的空间，是整个 Vectors and spaces 向量与空间 - 图26 吗？
这显然是不可以的，上面这个线性方程组中，有 4 个方程，但只有 3 个未知数。而 Vectors and spaces 向量与空间 - 图27 的列空间只有 3 个向量，而我们知道想要长成一个 Vectors and spaces 向量与空间 - 图28 需要 4 个线性无关的向量。

那么那些 Vectors and spaces 向量与空间 - 图29 可以使得 Vectors and spaces 向量与空间 - 图30 有解呢？—— 只要 Vectors and spaces 向量与空间 - 图31 向量在矩阵 Vectors and spaces 向量与空间 - 图32 的列空间里就可以啦。

2.2 Nullspace of A 矩阵 A 的零空间

矩阵的零空间（null space）可以被记作 Vectors and spaces 向量与空间 - 图33，即所有 Vectors and spaces 向量与空间 - 图34 的 Vectors and spaces 向量与空间 - 图35 组成的集合。比如：
image.png

  • 零空间的维数为矩阵 Vectors and spaces 向量与空间 - 图37 的列数减去秩，即 Vectors and spaces 向量与空间 - 图38
  • 零空间在解线性方程组的时候有重要的作用：一个线性方程组 Vectors and spaces 向量与空间 - 图39 的解，总能写成通解和一个特解的和，也就是：

Vectors and spaces 向量与空间 - 图40，

其中 Vectors and spaces 向量与空间 - 图41。

3 Independence, basis, dimension 相互独立、基底、维度

3.1 Independence 相互独立

对于一个矩阵 Vectors and spaces 向量与空间 - 图42，如果 Vectors and spaces 向量与空间 - 图43，则这 Vectors and spaces 向量与空间 - 图44 个列向量一定不是相互独立的。因为 Vectors and spaces 向量与空间 - 图45 代表方程的个数多于未知数的个数，即对于 Vectors and spaces 向量与空间 - 图46 有非零解（有 free variables）。

如果 Vectors and spaces 向量与空间 - 图47 是相互独立的，则对于它们的任一线性组合都不会是零向量：

Vectors and spaces 向量与空间 - 图48

当且仅当 Vectors and spaces 向量与空间 - 图49 上式才等于零。

3.2 Span a space 长成一个空间

由向量 Vectors and spaces 向量与空间 - 图50 长成（span）一个空间，其意思是，这个空间包含 Vectors and spaces 向量与空间 - 图51 所有的线性组合。

3.3 Basis 基底

一个空间的基底是一系列具有如下性质的向量：

  1. 它们相互独立
  2. 它们长成这个空间

4 The four fundamental subspaces 矩阵 A 的四个基础子空间

  1. column space 列空间 Vectors and spaces 向量与空间 - 图52：Vectors and spaces 向量与空间 - 图53 中的 Vectors and spaces 向量与空间 - 图54 维空间
  2. nullspace 零空间 Vectors and spaces 向量与空间 - 图55：Vectors and spaces 向量与空间 - 图56 中的 Vectors and spaces 向量与空间 - 图57 维空间
  3. row space 行空间 Vectors and spaces 向量与空间 - 图58：Vectors and spaces 向量与空间 - 图59 中的 Vectors and spaces 向量与空间 - 图60 维空间
  4. nullspace of Vectors and spaces 向量与空间 - 图61 Vectors and spaces 向量与空间 - 图62 的零空间 Vectors and spaces 向量与空间 - 图63：Vectors and spaces 向量与空间 - 图64%22%20aria-hidden%3D%22true%22%3E%0A%20%3Cuse%20xlink%3Ahref%3D%22%23E1-MJAMS-52%22%20x%3D%220%22%20y%3D%220%22%3E%3C%2Fuse%3E%0A%20%3Cuse%20transform%3D%22scale(0.707)%22%20xlink%3Ahref%3D%22%23E1-MJMATHI-6D%22%20x%3D%221021%22%20y%3D%22583%22%3E%3C%2Fuse%3E%0A%3C%2Fg%3E%0A%3C%2Fsvg%3E#card=math&code=%5Cmathbb%7BR%7D%5Em&id=anjqG) 中的 Vectors and spaces 向量与空间 - 图65 维空间

结合正交的概念，可以得到：

  1. Vectors and spaces 向量与空间 - 图66 —— 列空间中的每一个向量与 nullspace 中的每一个向量正交，两个空间正交
  2. Vectors and spaces 向量与空间 - 图67 ……