【矩阵论|线性代数】特征值分解,奇异值分解(SVD)
1.特征值分解
特征分解是分解成以下形式$$A=Q\sum Q^{-1}$$
$Q$是由**特征向量**组成的矩阵,$\sum$是特征值组成的对角矩阵,**只有方矩阵能进行这样的分解**
>**特征值和特征向量求法:**
>>**特征多项式:**$|A-\lambda E|$
>
>step1. 求出**特征多项式**
>step2. 解**特征多项式=0**,得到所有特征值
>step3. 把特征值代入线性方程组$(A-\lambda E)x=0$,求出基础解系,求解方法:先消元,然后求出限制解,在限制情况下,为自由元赋值1
2.奇异值分解(SVD)
奇异值分解是一个能适用于任意的矩阵的一种分解的方法。
**分解形式:**
$$A=U\sum V^T$$
若A为M*N矩阵
$U$中向量称为**左奇异向量**,大小为**M*M**
$\sum$为**M*N**实数对角矩阵
$V^T$大小为N*N,**右奇异向量**,里面的向量是正交的
>奇异值和特征值是怎么对应起来的呢?
>$(A^TA)v_i=\lambda_iv_i,v_i为右奇异向量$
原理
步骤:
step1:求$A^TA$或者$AA^T$的特征值$\lambda_1,\lambda_2...$
step2:确定$\sum$:$\sum_{ii}=\sqrt\lambda_i$,其余为0
step3:求$CC^T$的特征向量,也就是U
step4:求$C^TC$的特征向量,也就是V