矩陣分析-線性系統-3 LU分解

1. LU分解

LU分解在本質上是高斯消元法的一種表達形式。實質上是將A通過初等行變換變成一個上三角矩陣，其變換矩陣就是一個單位下三角矩陣。這正是所謂的杜爾裡特算法（Doolittle algorithm）：從下至上地對矩陣A做初等行變換，將對角線左下方的元素變成零，然後再證明這些行變換的效果等同於左乘一系列單位下三角矩陣，這一系列單位下三角矩陣的乘積的逆就是L矩陣，它也是一個單位下三角矩陣。

下面以具體例子來說明。若AX=b是一個非奇異系統，那麼高斯消元法將A化簡為一個上三角矩陣。若主軸上沒有0值，則無需交互行，因此只需進行第3類初等行變換（把第 i 行加上第 j 的 k 倍）即可完成此變換。例如

                                                                             （1）

第3類行變換可以通過左乘相應的初等矩陣實現，對上例來說進行的3個變換就是相應初等矩陣的乘積。注意最右邊是一個下三角矩陣L

                                  =L            （2）

從而有，即。因此A=LU，為一個下三角與一個上三角矩陣的乘積，因此稱為LU分解。

注意

1）U是高斯消元的結果，且對角線上是主元

2）L對角線上是1，對角線下面的元素恰恰是在式1中用於消去（i,j）位置上元素的乘子。

2. LDU分解

LU分解存在不對稱，因為L矩陣的主對角線元素為1，而U矩陣主對角線不為1。為了對此進行彌補，可U矩陣進一步做如下分解

                      = DU

這就是LDU分解，其中L和U是單位三角陣（主對角線都為1），D是對角陣。

下圖說明了Walsh matrix的LDU分解 

3. LDL^T分解

當A是對稱陣時，LDU分解為A=LDL^T 。例子如下

對稱陣   ， LU分解為， LDL^T 分解為。

進一步，由於對角陣D的元素為正，可有，從而得到，其中U是上三角陣。