摘要
SVD(Singular Value Decomposition, 奇异值分解)是线性代数中既优雅又强大的工具, 它揭示了矩阵最本质的变换....这就好比一个合数能表示为若干质数之积, 分解合数能得到表示该合数的质因数; 复杂周期信号可以表示为若干简单的正弦波和余弦波之和, 使用傅里叶变换能得到表示该信号的简单波; 复杂矩阵所代表的线性变换可由若干个简单矩阵所代表的线性变换组合起来...这样的表述还是相当地晦涩, 我们不妨在二维平面中举一个例子.
设有矩阵A, 其对单位正交基
?
进行线性变换, 得到的向量仍然是彼此正交的, 即
?
仍然是正交的. 设
?
方向上的单位向量是
?...这些更简单的变换是怎么进行生效的呢? 我们还是在二维平面中举例说明.
当使用矩阵A对向量
?
进行变化时, 我们可以先将向量
?
在单位正交基
?
上进行表示, 即(4)所表述. 我们不妨令
?
?...SVD的求解过程
上述关于SVD在二维平面上的结论可以轻易地推广到多维情况. 那SVD具体如何求解呢?