克羅內克積

數學上，克羅內克積（英語：Kronecker product）是兩個任意大小的矩陣間的運算，表示為⊗。簡單地說，就是將前一個矩陣的每個元素乘上後一個完整的矩陣。克羅內克積是外積從向量到矩陣的推廣，也是張量積在標準基下的矩陣表示。

線性代數
${\displaystyle \mathbf {A} ={\begin{bmatrix}1&2\\3&4\end{bmatrix}}}$
向量 · 向量空間 · 基底  · 行列式  · 矩陣
向量 標量 · 向量 · 向量空間 · 向量投影 · 外積（叉積 · 七維叉積） · 內積（點積） · 二重向量 矩陣與行列式 矩陣 · 行列式 · 線性方程組 · 秩 · 核 · 跡 · 單位矩陣 · 初等矩陣 · 方塊矩陣 · 分塊矩陣 · 三角矩陣 · 非奇異方陣 · 轉置矩陣 · 逆矩陣 · 對角矩陣 · 可對角化矩陣 · 對稱矩陣 · 反對稱矩陣 · 正交矩陣 · 幺正矩陣 · 埃爾米特矩陣 · 反埃爾米特矩陣 · 正規矩陣 · 伴隨矩陣 · 余因子矩陣 · 共軛轉置 · 正定矩陣 · 冪零矩陣 · 矩陣分解 （LU分解 · 奇異值分解 · QR分解 · 極分解 · 特徵分解） · 子式和餘子式 · 拉普拉斯展開 · 克羅內克積 線性空間與線性變換 線性空間 · 線性變換 · 線性子空間 · 線性生成空間 · 基 · 線性映射 · 線性投影 · 線性無關 · 線性組合 · 線性泛函 · 行空間與列空間 · 對偶空間 · 正交 · 特徵向量 · 最小二乘法 · 格拉姆-施密特正交化
閱 論 編

儘管沒有明顯證據證明德國數學家利奧波德·克羅內克是第一個定義並使用這一運算的人，克羅內克積還是以其名字命名。在歷史上，克羅內克積曾以Johann Georg Zehfuss名字命名為Zehfuss矩陣。

定義

如果A是一個 m × n 的矩陣，而B是一個 p × q 的矩陣，克羅內克積${\displaystyle A\otimes B}$則是一個 mp × nq 的分塊矩陣

${\displaystyle A\otimes B={\begin{bmatrix}a_{11}B&\cdots &a_{1n}B\\\vdots &\ddots &\vdots \\a_{m1}B&\cdots &a_{mn}B\end{bmatrix}}.}$

更具體地可表示為

${\displaystyle A\otimes B={\begin{bmatrix}a_{11}b_{11}&a_{11}b_{12}&\cdots &a_{11}b_{1q}&\cdots &\cdots &a_{1n}b_{11}&a_{1n}b_{12}&\cdots &a_{1n}b_{1q}\\a_{11}b_{21}&a_{11}b_{22}&\cdots &a_{11}b_{2q}&\cdots &\cdots &a_{1n}b_{21}&a_{1n}b_{22}&\cdots &a_{1n}b_{2q}\\\vdots &\vdots &\ddots &\vdots &&&\vdots &\vdots &\ddots &\vdots \\a_{11}b_{p1}&a_{11}b_{p2}&\cdots &a_{11}b_{pq}&\cdots &\cdots &a_{1n}b_{p1}&a_{1n}b_{p2}&\cdots &a_{1n}b_{pq}\\\vdots &\vdots &&\vdots &\ddots &&\vdots &\vdots &&\vdots \\\vdots &\vdots &&\vdots &&\ddots &\vdots &\vdots &&\vdots \\a_{m1}b_{11}&a_{m1}b_{12}&\cdots &a_{m1}b_{1q}&\cdots &\cdots &a_{mn}b_{11}&a_{mn}b_{12}&\cdots &a_{mn}b_{1q}\\a_{m1}b_{21}&a_{m1}b_{22}&\cdots &a_{m1}b_{2q}&\cdots &\cdots &a_{mn}b_{21}&a_{mn}b_{22}&\cdots &a_{mn}b_{2q}\\\vdots &\vdots &\ddots &\vdots &&&\vdots &\vdots &\ddots &\vdots \\a_{m1}b_{p1}&a_{m1}b_{p2}&\cdots &a_{m1}b_{pq}&\cdots &\cdots &a_{mn}b_{p1}&a_{mn}b_{p2}&\cdots &a_{mn}b_{pq}\end{bmatrix}}.}$

我們可以更緊湊地寫為 ${\displaystyle (A\otimes B)_{p(r-1)+v,q(s-1)+w}=a_{rs}b_{vw}}$

例子

${\displaystyle {\begin{bmatrix}1&2\\3&1\\\end{bmatrix}}\otimes {\begin{bmatrix}0&3\\2&1\\\end{bmatrix}}={\begin{bmatrix}1\cdot 0&1\cdot 3&2\cdot 0&2\cdot 3\\1\cdot 2&1\cdot 1&2\cdot 2&2\cdot 1\\3\cdot 0&3\cdot 3&1\cdot 0&1\cdot 3\\3\cdot 2&3\cdot 1&1\cdot 2&1\cdot 1\\\end{bmatrix}}={\begin{bmatrix}0&3&0&6\\2&1&4&2\\0&9&0&3\\6&3&2&1\end{bmatrix}}}$.

特性

雙線性和結合律

克羅內克積是張量積的特殊形式，因此滿足雙線性與結合律：

${\displaystyle A\otimes (B+C)=A\otimes B+A\otimes C\qquad {\mbox{(if }}B{\mbox{ and }}C{\mbox{ have the same size)}},}$

${\displaystyle (A+B)\otimes C=A\otimes C+B\otimes C\qquad {\mbox{(if }}A{\mbox{ and }}B{\mbox{ have the same size)}},}$

${\displaystyle (kA)\otimes B=A\otimes (kB)=k(A\otimes B),}$

${\displaystyle (A\otimes B)\otimes C=A\otimes (B\otimes C),}$

其中，A, B 和 C 是矩陣，而 k 是常量。

克羅內克積不符合交換律：通常，A ⊗ B 不同於 B ⊗ A。

A ⊗ B和B ⊗ A是排列等價的，也就是說，存在排列矩陣P和Q，使得

${\displaystyle A\otimes B=P\,(B\otimes A)\,Q.}$

如果A和B是方塊矩陣，則A ⊗ B和B ⊗ A甚至是排列相似的，也就是說，我們可以取P = Q^T。

混合乘積性質

如果A、B、C和D是四個矩陣，且矩陣乘積AC和BD存在，那麼：

${\displaystyle (\mathbf {A} \otimes \mathbf {B} )(\mathbf {C} \otimes \mathbf {D} )=\mathbf {AC} \otimes \mathbf {BD} .}$

這個性質稱為「混合乘積性質」，因為它混合了通常的矩陣乘積和克羅內克積。於是可以推出，A ${\displaystyle \,\otimes \,}$ B是可逆的當且僅當A和B是可逆的，其逆矩陣為：

${\displaystyle (\mathbf {A} \otimes \mathbf {B} )^{-1}=\mathbf {A} ^{-1}\otimes \mathbf {B} ^{-1}.}$

克羅內克和

如果A是n × n矩陣，B是m × m矩陣，${\displaystyle \mathbf {I} _{k}}$表示k × k單位矩陣，那麼我們可以定義克羅內克和${\displaystyle \oplus }$為：

${\displaystyle \mathbf {A} \oplus \mathbf {B} =\mathbf {A} \otimes \mathbf {I} _{m}+\mathbf {I} _{n}\otimes \mathbf {B} .}$

譜

假設A和B分別是大小為n和q的方塊矩陣。設λ₁，……，λ_n為A的特徵值，μ₁，……，μ_q為B的特徵值。那麼A ${\displaystyle \,\otimes \,}$ B的特徵值為：

${\displaystyle \lambda _{i}\mu _{j},\qquad i=1,\ldots ,n,\,j=1,\ldots ,q.}$

於是可以推出，兩個矩陣的克羅內克積的跡和行列式為：

${\displaystyle \operatorname {tr} (\mathbf {A} \otimes \mathbf {B} )=\operatorname {tr} \mathbf {A} \,\operatorname {tr} \mathbf {B} \quad {\mbox{and}}\quad \det(\mathbf {A} \otimes \mathbf {B} )=(\det \mathbf {A} )^{q}(\det \mathbf {B} )^{n}.}$

奇異值

如果A和B是長方矩陣，那麼我們可以考慮它們的奇異值。假設A有r_A個非零的奇異值，它們是：

${\displaystyle \sigma _{\mathbf {A} ,i},\qquad i=1,\ldots ,r_{\mathbf {A} }.}$

類似地，設B的非零奇異值為：

${\displaystyle \sigma _{\mathbf {B} ,i},\qquad i=1,\ldots ,r_{\mathbf {B} }.}$

那麼克羅內克積A ${\displaystyle \,\otimes \,}$ B有r_Ar_B個非零奇異值，它們是：

${\displaystyle \sigma _{\mathbf {A} ,i}\sigma _{\mathbf {B} ,j},\qquad i=1,\ldots ,r_{\mathbf {A} },\,j=1,\ldots ,r_{\mathbf {B} }.}$

由於一個矩陣的秩等於非零奇異值的數目，因此我們有：

${\displaystyle \operatorname {rank} (\mathbf {A} \otimes \mathbf {B} )=\operatorname {rank} \mathbf {A} \,\operatorname {rank} \mathbf {B} .}$

與抽象張量積的關係

矩陣的克羅內克積對應於線性映射的抽象張量積。特別地，如果向量空間V、W、X和Y分別具有基{v₁, ... , v_m}、 {w₁, ... , w_n}、{x₁, ... , x_d}和{y₁, ... , y_e}，且矩陣A和B分別在恰當的基中表示線性變換S : V → X和T : W → Y，那麼矩陣A ⊗ B表示兩個映射的張量積S ⊗ T : V ⊗ W → X ⊗ Y，關於V ⊗ W的基{v₁ ⊗ w₁, v₁ ⊗ w₂, ... , v₂ ⊗ w₁, ... , v_m ⊗ w_n}和X ⊗ Y的類似基。^[1]

與圖的乘積的關係

兩個圖的鄰接矩陣的克羅內克積是它們的張量積圖的鄰接矩陣。兩個圖的鄰接矩陣的克羅內克和，則是它們的笛卡兒積圖的鄰接矩陣。參見^[2]第96個練習的答案。

轉置

克羅內克積轉置運算符合分配律：

${\displaystyle (A\otimes B)^{T}=A^{T}\otimes B^{T}.}$

矩陣方程

克羅內克積可以用來為一些矩陣方程得出方便的表示法。例如，考慮方程AXB = C，其中A、B和C是給定的矩陣，X是未知的矩陣。我們可以把這個方程重寫為

${\displaystyle (B^{T}\otimes A)\,\operatorname {vec} (X)=\operatorname {vec} (AXB)=\operatorname {vec} (C).}$

這樣，從克羅內克積的性質可以推出，方程AXB = C具有唯一的解，當且僅當A和B是非奇異矩陣。(Horn & Johnson 1991，Lemma 4.3.1).

在這裡，vec(X)表示矩陣X的向量化，它是把X的所有列堆起來所形成的列向量。

如果把X的行堆起來，形成列向量x，則${\displaystyle AXB}$也可以寫為${\displaystyle (A\otimes B^{T})x}$ (Jain 1989，2.8 block Matrices and Kronecker Products)。

參考文獻

1. Pages 401–402 of Dummit, David S.; Foote, Richard M., Abstract Algebra 2, New York: John Wiley and Sons, Inc., 1999, ISBN 0-471-36857-1
2. D. E. Knuth: "Pre-Fascicle 0a: Introduction to Combinatorial Algorithms" （頁面存檔備份，存於網際網路檔案館）, zeroth printing (revision 2), to appear as part of D.E. Knuth: The Art of Computer Programming Vol. 4A

• Horn, Roger A.; Johnson, Charles R., Topics in Matrix Analysis, Cambridge University Press, 1991, ISBN 0-521-46713-6.

• Jain, Anil K., Fundamentals of Digital Image Processing, Prentice Hall, 1989, ISBN 0-13-336165-9.

外部連結

• Kronecker product. PlanetMath.
• MathWorld Matrix Direct Product （頁面存檔備份，存於網際網路檔案館）