正定矩陣

在線性代數裡，正定矩陣（英語：positive-definite matrix）是埃爾米特矩陣的一種，有時會簡稱為正定陣。在線性代數中，正定矩陣的性質類似複數中的正實數。與正定矩陣相對應的線性算子是對稱正定雙線性形式（複域中則對應埃爾米特正定雙線性形式）。

線性代數
${\displaystyle \mathbf {A} ={\begin{bmatrix}1&2\\3&4\end{bmatrix}}}$
向量 · 向量空間 · 基底  · 行列式  · 矩陣
向量 標量 · 向量 · 向量空間 · 向量投影 · 外積（叉積 · 七維叉積） · 內積（點積） · 二重向量 矩陣與行列式 矩陣 · 行列式 · 線性方程組 · 秩 · 核 · 跡 · 單位矩陣 · 初等矩陣 · 方塊矩陣 · 分塊矩陣 · 三角矩陣 · 非奇異方陣 · 轉置矩陣 · 逆矩陣 · 對角矩陣 · 可對角化矩陣 · 對稱矩陣 · 反對稱矩陣 · 正交矩陣 · 幺正矩陣 · 埃爾米特矩陣 · 反埃爾米特矩陣 · 正規矩陣 · 伴隨矩陣 · 余因子矩陣 · 共軛轉置 · 正定矩陣 · 冪零矩陣 · 矩陣分解 （LU分解 · 奇異值分解 · QR分解 · 極分解 · 特徵分解） · 子式和餘子式 · 拉普拉斯展開 · 克羅內克積 線性空間與線性變換 線性空間 · 線性變換 · 線性子空間 · 線性生成空間 · 基 · 線性映射 · 線性投影 · 線性無關 · 線性組合 · 線性泛函 · 行空間與列空間 · 對偶空間 · 正交 · 特徵向量 · 最小二乘法 · 格拉姆-施密特正交化
閱 論 編

定義

一個 ${\displaystyle n\times n}$ 的實對稱矩陣 ${\displaystyle M}$ 是正定的，當且僅當對於所有的非零實係數向量 ${\displaystyle \mathbf {z} }$，都有 ${\displaystyle \mathbf {z} ^{T}M\mathbf {z} >0}$。其中 ${\displaystyle \mathbf {z} ^{T}}$表示 ${\displaystyle \mathbf {z} }$ 的轉置。對於複數的情況，定義則為：一個 ${\displaystyle n\times n}$ 的埃爾米特矩陣 ${\displaystyle M}$ 是正定的若且唯若對於每個非零的複向量 ${\displaystyle \mathbf {z} }$，都有 ${\displaystyle \mathbf {z} ^{*}M\mathbf {z} >0}$。其中 ${\displaystyle \mathbf {z} ^{*}}$表示 ${\displaystyle \mathbf {z} }$ 的共軛轉置。

這樣的定義仰賴一個事實：對於任意的埃爾米特矩陣 ${\displaystyle M}$ 及複向量 ${\displaystyle \mathbf {z} }$ ，${\displaystyle \mathbf {z} ^{*}M\mathbf {z} }$ 必定是實數。

首先，因為 ${\displaystyle M}$ 是埃爾米特矩陣，所以我們有 ${\displaystyle M^{*}=M}$。接下來我們計算所求的共軛轉置：${\displaystyle (\mathbf {z} ^{*}M\mathbf {z} )^{*}=\mathbf {z} ^{*}M^{*}(\mathbf {z} ^{*})^{*}=\mathbf {z} ^{*}M\mathbf {z} }$。因為 ${\displaystyle \mathbf {z} ^{*}M\mathbf {z} }$ 是純量且其共軛複數等於自身，所以根據複數的性質，我們得出 ${\displaystyle \mathbf {z} ^{*}M\mathbf {z} }$ 是實數。

正定矩陣

對於 ${\displaystyle n\times n}$ 的埃爾米特矩陣 ${\displaystyle M}$，下列性質與「${\displaystyle M}$ 為正定矩陣」等價：

1. ${\displaystyle M}$ 的所有的特徵值 ${\displaystyle \lambda _{i}}$ 都是正的。
   根據譜定理，${\displaystyle M}$ 與一個實對角矩陣 ${\displaystyle D}$ 相似（也就是說 ${\displaystyle M=U^{-1}DU}$，其中 ${\displaystyle U}$ 是酉矩陣，或者說 ${\displaystyle M}$ 在某個正交基可以表示為一個實對角矩陣）。因此，${\displaystyle M}$是正定陣當且僅當相應的 ${\displaystyle D}$ 的對角線上元素都是正的。 另外，也可以假設 ${\displaystyle \lambda _{i}}$ 和 ${\displaystyle \mathbf {v} _{i}}$ 是 ${\displaystyle M}$ 的一組特徵值與特徵向量，根據定義 ${\displaystyle M\mathbf {v} _{i}=\lambda _{i}\mathbf {v} _{i}}$，從左側同乘以 ${\displaystyle \mathbf {v} _{i}^{*}}$ 得到：${\displaystyle \mathbf {v} _{i}^{*}M\mathbf {v} _{i}=\lambda _{i}\mathbf {v} _{i}^{*}\mathbf {v} _{i}=\lambda _{i}\Vert \mathbf {v} _{i}\Vert ^{2}}$。因為 ${\displaystyle M}$ 是正定矩陣，根據定義我們有 ${\displaystyle \mathbf {v} _{i}^{*}M\mathbf {v} >0}$。移項整理後可以得到 ${\displaystyle \lambda _{i}={\frac {\mathbf {v} ^{*}M\mathbf {v} }{\Vert \mathbf {v} _{i}\Vert ^{2}}}>0}$。注意因為特徵向量 ${\displaystyle \mathbf {v} _{i}\neq \mathbf {0} }$，所以前述 ${\displaystyle \lambda _{i}}$ 不會有無解的情形。
2. 半雙線性形式 ${\displaystyle \langle {\textbf {x}},{\textbf {y}}\rangle ={\textbf {x}}^{*}M{\textbf {y}}}$ 定義了一個 ${\displaystyle \mathbb {C} ^{n}}$上的內積。實際上，所有 ${\displaystyle \mathbb {C} ^{n}}$上的內積都可視為由某個正定矩陣通過此種方式得到。
3. ${\displaystyle M}$ 是向量 ${\displaystyle {\textbf {x}}_{1},\ldots ,{\textbf {x}}_{n}\in \mathbb {C} ^{k}}$ 構成的格拉姆矩陣，其中 ${\displaystyle k\in \mathbb {Z} ^{+}}$。更精確地說，${\displaystyle M=[m_{ij}]}$ 定義為：${\displaystyle m_{ij}=\langle {\textbf {x}}_{i},{\textbf {x}}_{j}\rangle ={\textbf {x}}_{i}^{*}{\textbf {x}}_{j}}$。換句話說，${\displaystyle M}$ 具有 ${\displaystyle A^{*}A}$ 的形式，其中 ${\displaystyle A}$ 不一定是方陣，但必須是單射的。
4. ${\displaystyle M}$ 的所有順序主子式，也就是順序主子陣的行列式都是正的（西爾維斯特準則（英語：Sylvester's criterion））。明確地說，就是考察 ${\displaystyle M}$ 左上角大小 ${\displaystyle 1\times 1,\ldots ,n\times n}$ 的子矩陣的行列式。對於半正定矩陣而言，相應的條件應改為所有的主子式非負。但順序主子式非負並不能推出矩陣是半正定的。比如以下例子： $${\displaystyle {\begin{bmatrix}1&1&1\\1&1&1\\1&1&0\end{bmatrix}}}$$
5. 存在唯一的下三角矩陣 ${\displaystyle L}$，其主對角線上的元素全是正的，使得 ${\displaystyle M=LL^{*}}$。其中 ${\displaystyle L^{*}}$是 ${\displaystyle L}$ 的共軛轉置。這一分解被稱為科列斯基分解。

對於實對稱矩陣，只需將上述性質中的 ${\displaystyle \mathbb {C} ^{n}}$改為 ${\displaystyle \mathbb {R} ^{n}}$，並將「共軛轉置」改為「轉置」即可。

二次型

由以上的第二個等價條件，可以得到二次型形式下正定矩陣的等價條件：用 ${\displaystyle \mathbb {K} }$ 代表 ${\displaystyle \mathbb {C} }$ 或 ${\displaystyle \mathbb {R} }$，設 ${\displaystyle \mathbb {V} }$ 是 ${\displaystyle \mathbb {K} }$ 上的一個向量空間。一個埃爾米特型：

${\displaystyle B:V\times V\rightarrow K}$

是一個雙線性映射，使得 ${\displaystyle B(\mathbf {x} ,\mathbf {y} )}$ 總是 ${\displaystyle B(\mathbf {y} ,\mathbf {x} )}$ 的共軛。這樣的一個映射 ${\displaystyle B}$ 是正定的若且唯若對於 ${\displaystyle \mathbb {V} }$ 中所有的非零向量 ${\displaystyle \mathbf {x} }$，都有 ${\displaystyle B(\mathbf {x} ,\mathbf {x} )>0}$。

負定、半定及不定矩陣

與正定矩陣對應，一個 ${\displaystyle n\times n}$ 的埃爾米特矩陣 ${\displaystyle M}$ 是負定矩陣（英語：negative-definite matrix）若且唯若對所有非零向量 ${\displaystyle \mathbf {z} \in \mathbb {R} ^{n}}$（或 ${\displaystyle \mathbf {z} \in \mathbb {C} ^{n}}$），都有 ${\displaystyle z^{*}Mz<0\,}$。

${\displaystyle M}$是半正定矩陣（英語：positive semi-definite matrix）若且唯若對於所有非零向量 ${\displaystyle \mathbf {z} \in \mathbb {R} ^{n}}$（或 ${\displaystyle \mathbf {z} \in \mathbb {C} ^{n}}$），都有 ${\displaystyle z^{*}Mz\geq 0}$。

${\displaystyle M}$是半負定矩陣（英語：negative semi-definite matrix）若且唯若對於所有非零向量 ${\displaystyle \mathbf {z} \in \mathbb {R} ^{n}}$（或 ${\displaystyle \mathbf {z} \in \mathbb {C} ^{n}}$），都有 ${\displaystyle z^{*}Mz\leq 0}$。

如果一個埃爾米特矩陣既不是半正定也不是半負定的，那麼稱其為不定矩陣（英語：indefinite matrix）。

可以看出，上一節中正定矩陣的第一個等價性質只需作出相應改動，就可以變為判別負定矩陣、半正定矩陣和半負定矩陣的準則。注意當 ${\displaystyle M}$ 是半正定時，相應的格拉姆矩陣不必由線性獨立的向量組成。對於任意矩陣 ${\displaystyle A}$，${\displaystyle A^{*}A}$必是半正定的，並有 ${\displaystyle \mathrm {rank} (A)=\mathrm {rank} (A^{*}A)}$（兩者的秩相等）。反過來，任意的半正定矩陣都可以寫作 ${\displaystyle M=A^{*}A}$，這就是科列斯基分解。

對於任意矩陣 ${\displaystyle A}$，因為 ${\displaystyle (A^{*}A)^{*}=A^{*}(A^{*})^{*}=A^{*}A}$ ，因此 ${\displaystyle A^{*}A}$ 是埃爾米特矩陣。令 ${\displaystyle \mathbf {v} \in \mathbb {C} ^{n}}$，則 ${\displaystyle \mathbf {v} ^{*}(A^{*}A)\mathbf {v} =(\mathbf {v} ^{*}A^{*})(A\mathbf {v} )=(A\mathbf {v} )^{*}(A\mathbf {v} )=\Vert A\mathbf {v} \Vert ^{2}\geq 0}$，因此 ${\displaystyle A^{*}A}$ 是半正定的。另外，我們很容易證明 ${\displaystyle A}$ 與 ${\displaystyle A^{*}A}$ 有相同的零空間，根據秩 – 零化度定理，我們可以得到它們有相同的秩。

一個埃爾米特矩陣 ${\displaystyle M}$ 是負定矩陣若且唯若 ${\displaystyle M}$ 的所有奇數階順序主子式小於 ${\displaystyle 0}$，所有偶數階順序主子式大於 ${\displaystyle 0}$。當 ${\displaystyle M}$ 是負定矩陣時，${\displaystyle M}$ 的逆矩陣也是負定的。

相關性質

若 ${\displaystyle M}$ 為半正定矩陣，可以記作 ${\displaystyle M\geq 0}$。如果${\displaystyle M}$是正定矩陣，可以記作 ${\displaystyle M>0}$。這個記法來自泛函分析，其中的正定矩陣定義了正算子。

對於一般的埃爾米特矩陣，${\displaystyle M}$、${\displaystyle N}$，${\displaystyle M\geq N}$ 若且唯若 ${\displaystyle M-N\geq 0}$。這樣可以定義一個在埃爾米特矩陣集合上的偏序關係。類似地，可以定義${\displaystyle M>N}$。

1.	每個正定陣都是可逆的，它的逆也是正定陣。如果 ${\displaystyle M\geq N>0}$ 那麼 ${\displaystyle N^{-1}\geq M^{-1}>0}$。
2.	如果 ${\displaystyle M}$ 是正定陣，${\displaystyle r>0}$ 為正實數，那麼 ${\displaystyle rM}$ 也是正定陣。 如果 ${\displaystyle M}$、${\displaystyle N}$ 是正定陣，那麼 ${\displaystyle M+N}$、${\displaystyle MNM}$ 與 ${\displaystyle NMN}$ 都是正定的。如果 ${\displaystyle MN=NM}$，那麼 ${\displaystyle MN}$ 仍是正定陣。
3.	如果 ${\displaystyle M=(m_{ij})>0}$ 那麼主對角線上的元素 ${\displaystyle m_{ii}}$ 為正實數。於是有 ${\displaystyle {\text{tr}}(M)>0}$。此外還有 ${\displaystyle |m_{ij}|\leq {\sqrt {m_{ii}m_{jj}}}\leq {\frac {m_{ii}+m_{jj}}{2}}}$ 。
4.	矩陣 ${\displaystyle M}$ 是正定陣若且唯若存在唯一的正定陣 ${\displaystyle B>0}$ 使得 ${\displaystyle B^{2}=M}$。根據其唯一性可以記作 ${\displaystyle B=M^{1/2}}$，稱 ${\displaystyle B}$ 為 ${\displaystyle M}$ 的平方根。對半正定陣也有類似結論。同時，如果 ${\displaystyle M>N>0}$ 那麼 ${\displaystyle M^{1/2}>N^{1/2}>0}$ 。
5.	如果 ${\displaystyle M,N>0}$ 那麼 ${\displaystyle M\otimes N>0}$，其中 ${\displaystyle \otimes }$ 表示克羅內克積。
6.	對矩陣 ${\displaystyle M=(m_{ij}),\ N=(n_{ij})}$，將兩者同一位置上的係數相乘所得的矩陣記為 ${\displaystyle M\circ N}$，即 ${\displaystyle (M\circ N)_{i,j}=m_{ij}n_{ij}}$，稱為${\displaystyle M}$與${\displaystyle N}$的 阿達馬乘積。如果 ${\displaystyle M,N>0}$，那麼 ${\displaystyle M\circ N>0}$。如果 ${\displaystyle M,N}$ 為實係數矩陣，則以下不等式成立： ${\displaystyle \det(M\circ N)\geq (\det N)\prod _{i}m_{ii}}$ 。
7.	設 ${\displaystyle M>0}$，${\displaystyle N}$ 為埃爾米特矩陣。如果 ${\displaystyle MN+NM\geq 0}$（相應地，${\displaystyle MN+NM>0}$），那麼 ${\displaystyle N\geq 0}$（相應地，${\displaystyle N>0}$）。
8.	如果 ${\displaystyle M,N\geq 0}$ 為實係數矩陣，則 ${\displaystyle {\text{tr}}(MN)\geq 0}$。
9.	如果 ${\displaystyle M>0}$ 為實係數矩陣，那麼存在 ${\displaystyle \delta >0}$ 使得 ${\displaystyle M\geq \delta I}$，其中 ${\displaystyle I}$ 為單位矩陣。

非埃爾米特矩陣的情況

一個實矩陣 ${\displaystyle M}$ 可能滿足對於所有的非零實向量 ${\displaystyle \mathbf {x} }$，${\displaystyle \mathbf {x} ^{T}M\mathbf {x} >0}$，卻不是對稱矩陣。舉例來說，矩陣

${\displaystyle {\begin{bmatrix}1&1\\-1&1\end{bmatrix}}}$就滿足這個條件。對於 ${\displaystyle \mathbf {x} ={\begin{bmatrix}x_{1}\\x_{2}\end{bmatrix}}}$ 並且 ${\displaystyle \mathbf {x} \neq \mathbf {0} }$，${\displaystyle {\begin{bmatrix}x_{1}&x_{2}\end{bmatrix}}{\begin{bmatrix}1&1\\-1&1\end{bmatrix}}{\begin{bmatrix}x_{1}\\x_{2}\end{bmatrix}}=x_{1}^{2}+x_{2}^{2}>0}$。

一般來說，一個實係數矩陣 ${\displaystyle M}$ 滿足對所有非零實向量 ${\displaystyle \mathbf {x} }$，${\displaystyle \mathbf {x} ^{T}M\mathbf {x} >0}$，若且唯若對稱矩陣 ${\displaystyle (M+M^{T})/2}$ 是正定矩陣。

對於復係數矩陣，情況可能會不太一樣。主要考慮如何擴展 ${\displaystyle \mathbf {z} ^{*}M\mathbf {z} >0}$ 這一性質。要使得 ${\displaystyle \mathbf {z} ^{*}M\mathbf {z} }$ 總為實數，矩陣 ${\displaystyle M}$ 必須是埃爾米特矩陣。因此，若 ${\displaystyle \mathbf {z} ^{*}M\mathbf {z} }$ 總是正實數，${\displaystyle M}$ 必然是正定的埃爾米特矩陣。如果將 ${\displaystyle \mathbf {z} ^{*}M\mathbf {z} >0}$ 擴展為 ${\displaystyle \Re (\mathbf {z} ^{*}M\mathbf {z} )>0}$，則等價於 ${\displaystyle (M+M^{*})/2}$ 為正定矩陣。

參見

• 確定雙線性形式
• 矩陣的平方根
• 舒爾補
• 正定核（英語：Positive-definite kernel）
• 正定函數
• 科列斯基分解
• 線性矩陣不等式
• 合同矩陣

參考資料

• Roger A. Horn and Charles R. Johnson. Matrix Analysis, Chapter 7. Cambridge University Press, 1985. ISBN 0-521-30586-1 (hardback), ISBN 0-521-38632-2 (paperback).
• Rajendra Bhatia. Positive definite matrices,. Princeton Series in Applied Mathematics, 2007. ISBN 978-0691129181.

外部連結

• 正定矩陣
• 關於對稱矩陣的一些討論