对称4-奇异值分解与极分解

之前讲到实对称矩阵一定可以对角化，而且可以通过正交矩阵相似对角化，即存在正交矩阵，使得是对角矩阵。

现在考虑下面的问题：熟知任意矩阵可以通过初等变换，化为等价标准形：

其中#card=math&code=r%3Dr%28M%29&id=Wo0Tc)，是的秩，由唯一确定。现在问，如果用正交变换，能够把简化成什么样子？

先引入下面的

定义：称实矩阵正交等价，如果有正交矩阵使得.

由于正交矩阵的逆矩阵与乘积都是正交矩阵，所以”正交等价”是等价关系。我们有下面的

定理：实对称矩阵正交等价于对角矩阵。

（这是”实对称矩阵可以正交对角化”的另一种说法。）

对任意实矩阵, 因为都是实对称矩阵，根据上述定理，有正交矩阵与对角矩阵使得

而且都是半正定的（即对角元都是非负），且矩阵的非零对角元与的非零对角元一样。设它们的非零对角元是，其中#card=math&code=r%3Dr%28A%29&id=lzPh6)是的秩，实数都假设是非负的。

定义：(1) 记

%2C%20%5Cquad%20%5CSigmaM%3A%3D%5Cbegin%7Bpmatrix%7D%20D%20%26%20%5Cmathbf%7B0%7D%20%5C%5C%20%5Cmathbf%7B0%7D%20%26%20%5Cmathbf%7B0%7D%20%5Cend%7Bpmatrix%7D%7Bm%20%5Ctimes%20n%7D.%0A#card=math&code=D%3A%3D%5Cmathrm%7Bdiag%7D%28%5Csigma1%2C%20%5Cldots%2C%20%5Csigma_r%29%2C%20%5Cquad%20%5CSigma_M%3A%3D%5Cbegin%7Bpmatrix%7D%20D%20%26%20%5Cmathbf%7B0%7D%20%5C%5C%20%5Cmathbf%7B0%7D%20%26%20%5Cmathbf%7B0%7D%20%5Cend%7Bpmatrix%7D%7Bm%20%5Ctimes%20n%7D.%0A&id=dziGl)

(2) 我们称 (共有个0)为的奇异值。可以验证

这称为的奇异值分解。

用线性变换解释奇异值分解：设 是欧几里得空间，维数分别是. 矩阵定义了线性映射. 则存在的标准正交基%2C%20%5C%3B%20(v_j)#card=math&code=%28u_i%29%2C%20%5C%3B%20%28v_j%29&id=ZNBsW)，使得

最后介绍极分解。设是实对称矩阵，它的奇异值分解是. 那么

(PQ%5ET)%3D(PQ%5ET)(Q%5CSigma_S%20Q%5ET).%0A#card=math&code=S%3D%28P%5CSigma_S%20P%5ET%29%28PQ%5ET%29%3D%28PQ%5ET%29%28Q%5CSigma_S%20Q%5ET%29.%0A&id=JyiZ1)

上式表明，任意实对称矩阵可以表示为一个正交矩阵与一个对称半正定矩阵的乘积（但要注意顺序）。这称为实对称矩阵的极分解。

注：(1) 奇异值分解与极分解本质上等价；奇异值分解与极分解都可以推广到复矩阵（实对称矩阵—> Hermitian矩阵，正交矩阵—> unitary矩阵，标准正交基—> unitary基）

(2) 极分解，可以类比 “复数由其模长与辐角唯一确定: )#card=math&code=z%3D%7Cz%7C%5Cexp%28%5Csqrt%7B-1%7D%20%5Cmathrm%7BArg%7D%28z%29%29&id=rGdpg)”. 极分解的正交矩阵类比而半正定矩阵类比模长;

(3) 实对称矩阵的极分解中的正交矩阵由原实对称矩阵唯一确定；

(4) 实对称矩阵的极分解中，得到的正交矩阵与半正定矩阵可交换，当且仅当%22%20aria-hidden%3D%22true%22%3E%0A%20%3Cuse%20xlink%3Ahref%3D%22%23E1-MJMATHI-53%22%20x%3D%220%22%20y%3D%220%22%3E%3C%2Fuse%3E%0A%3Cg%20transform%3D%22translate(645%2C0)%22%3E%0A%20%3Cuse%20xlink%3Ahref%3D%22%23E1-MJMATHI-53%22%20x%3D%220%22%20y%3D%220%22%3E%3C%2Fuse%3E%0A%20%3Cuse%20transform%3D%22scale(0.707)%22%20xlink%3Ahref%3D%22%23E1-MJMAIN-22A4%22%20x%3D%22926%22%20y%3D%22583%22%3E%3C%2Fuse%3E%0A%3C%2Fg%3E%0A%20%3Cuse%20xlink%3Ahref%3D%22%23E1-MJMAIN-3D%22%20x%3D%222228%22%20y%3D%220%22%3E%3C%2Fuse%3E%0A%3Cg%20transform%3D%22translate(3285%2C0)%22%3E%0A%20%3Cuse%20xlink%3Ahref%3D%22%23E1-MJMATHI-53%22%20x%3D%220%22%20y%3D%220%22%3E%3C%2Fuse%3E%0A%20%3Cuse%20transform%3D%22scale(0.707)%22%20xlink%3Ahref%3D%22%23E1-MJMAIN-22A4%22%20x%3D%22926%22%20y%3D%22583%22%3E%3C%2Fuse%3E%0A%3C%2Fg%3E%0A%20%3Cuse%20xlink%3Ahref%3D%22%23E1-MJMATHI-53%22%20x%3D%224590%22%20y%3D%220%22%3E%3C%2Fuse%3E%0A%20%3Cuse%20xlink%3Ahref%3D%22%23E1-MJMAIN-2E%22%20x%3D%225236%22%20y%3D%220%22%3E%3C%2Fuse%3E%0A%3C%2Fg%3E%0A%3C%2Fsvg%3E#card=math&code=SS%5E%5Ctop%20%3D%20S%5E%5Ctop%20S.&id=IM2Ta)