クロネッカー積

数学における行列のクロネッカー積（クロネッカーせき、英: Kronecker product）⊗ は任意サイズの行列の間に定義される二項演算で、その結果は区分行列として与えられる。行列単位からなる標準基底に関する線型空間のテンソル積の行列として与えられる。クロネッカー積は通常の行列の積とはまったく異なる概念であるので、混同すべきではない。名称はレオポルト・クロネッカーに因む。

定義

A = (a_ij) を m × n 行列、B = (b_kl) を p × q 行列とすると、それらのクロネッカー積 A ⊗ B は

${\displaystyle A\otimes B={\begin{bmatrix}a_{11}B&\cdots &a_{1n}B\\\vdots &\ddots &\vdots \\a_{m1}B&\cdots &a_{mn}B\end{bmatrix}}}$

で与えられる mp × nq 区分行列である。もっとはっきり成分を示せば、 A ⊗ B は

${\displaystyle {\begin{bmatrix}a_{11}b_{11}&a_{11}b_{12}&\cdots &a_{11}b_{1q}&\cdots &\cdots &a_{1n}b_{11}&a_{1n}b_{12}&\cdots &a_{1n}b_{1q}\\a_{11}b_{21}&a_{11}b_{22}&\cdots &a_{11}b_{2q}&\cdots &\cdots &a_{1n}b_{21}&a_{1n}b_{22}&\cdots &a_{1n}b_{2q}\\\vdots &\vdots &\ddots &\vdots &\ddots &\ddots &\vdots &\vdots &\ddots &\vdots \\a_{11}b_{p1}&a_{11}b_{p2}&\cdots &a_{11}b_{pq}&\cdots &\cdots &a_{1n}b_{p1}&a_{1n}b_{p2}&\cdots &a_{1n}b_{pq}\\\vdots &\vdots &\ddots &\vdots &\ddots &\ddots &\vdots &\vdots &\ddots &\vdots \\\vdots &\vdots &\ddots &\vdots &\ddots &\ddots &\vdots &\vdots &\ddots &\vdots \\a_{m1}b_{11}&a_{m1}b_{12}&\cdots &a_{m1}b_{1q}&\cdots &\cdots &a_{mn}b_{11}&a_{mn}b_{12}&\cdots &a_{mn}b_{1q}\\a_{m1}b_{21}&a_{m1}b_{22}&\cdots &a_{m1}b_{2q}&\cdots &\cdots &a_{mn}b_{21}&a_{mn}b_{22}&\cdots &a_{mn}b_{2q}\\\vdots &\vdots &\ddots &\vdots &\ddots &\ddots &\vdots &\vdots &\ddots &\vdots \\a_{m1}b_{p1}&a_{m1}b_{p2}&\cdots &a_{m1}b_{pq}&\cdots &\cdots &a_{mn}b_{p1}&a_{mn}b_{p2}&\cdots &a_{mn}b_{pq}\end{bmatrix}}}$

と書ける。行列 A および B が線型写像 V₁ → W₁ および V₂ → W₂ をそれぞれ表現するならば A ⊗ B はそれらの写像のテンソル積 V₁ ⊗ V₂ → W₁ ⊗ W₂ を表現する。

例えば、

${\displaystyle {\begin{bmatrix}1&2\\3&4\end{bmatrix}}\otimes {\begin{bmatrix}0&5\\6&7\end{bmatrix}}={\begin{bmatrix}1\cdot 0&1\cdot 5&2\cdot 0&2\cdot 5\\1\cdot 6&1\cdot 7&2\cdot 6&2\cdot 7\\3\cdot 0&3\cdot 5&4\cdot 0&4\cdot 5\\3\cdot 6&3\cdot 7&4\cdot 6&4\cdot 7\\\end{bmatrix}}={\begin{bmatrix}0&5&0&10\\6&7&12&14\\0&15&0&20\\18&21&24&28\end{bmatrix}}}$

のような計算が成り立つ。

性質

双線型性と結合性

クロネッカー積はテンソル積の特別な場合であるから、双線型性と結合性を持つ。すなわち、A, B, C を適当なサイズの行列、k をスカラーとして

${\displaystyle A\otimes (B+C)=A\otimes B+A\otimes C,}$

${\displaystyle (A+B)\otimes C=A\otimes C+B\otimes C,}$

${\displaystyle (kA)\otimes B=A\otimes (kB)=k(A\otimes B),}$

${\displaystyle (A\otimes B)\otimes C=A\otimes (B\otimes C)}$

が成り立つ。

クロネッカー積は可換でなく、一般には A ⊗ B と B ⊗ A は異なる行列となる。しかし A ⊗ B と B ⊗ A とは置換同値、すなわち置換行列 P, Q で

${\displaystyle A\otimes B=P(B\otimes A)Q}$

となるものが存在する。さらに A, B が正方行列の場合には、A ⊗ B と B ⊗ A とは置換相似、すなわち置換同値であって P = Q^⊤ とすることができる。

混合積性質

行列 A, B, C, D は行列の積 AC および BD が定義できるようなサイズの行列とすれば、

${\displaystyle (A\otimes B)(C\otimes D)=AC\otimes BD}$

が成立する。これは行列の通常の積とクロネッカー積が混じっているので、混合積性質と呼ばれる。

逆元

上記の混合積性質から、A ⊗ B が正則行列となるための必要十分条件は A と B がともに正則となることであって、実際に逆元を

${\displaystyle (A\otimes B)^{-1}=A^{-1}\otimes B^{-1}}$

と書くことができる。

転置行列

行列の転置をとる操作はクロネッカー積に分配的である。すなわち、

${\displaystyle (A\otimes B)^{\top }=A^{\top }\otimes B^{\top }}$

が成立する。

クロネッカー和と行列の指数

n-次正方行列 A, m-次正方行列 B および k-次単位行列 I_k に対して、クロネッカー和と呼ばれる演算 ⊕ を

${\displaystyle A\oplus B=A\otimes I_{m}+I_{n}\otimes B}$

で定義する（これは行列の直和とは異なるものであることに注意）。この演算はリー環のテンソル積に関係がある。

行列の指数函数に関する公式

${\displaystyle e^{A\oplus B}=e^{A}\otimes e^{B}}$

はある種の連続時間マルコフ過程の数値的評価において有用である ^[要出典]。物理学においても、相互作用しない形の集まりを考えるとき、クロネッカー和が自然に現れる。Hⁱ をそのような系の i-番目のハミルトニアンとすれば、系の集まり全体のハミルトニアンは

${\displaystyle H_{\mathrm {Tot} }=\bigoplus _{i}H^{i}}$

で与えられる。

スペクトル

A, B はそれぞれ m, n-次正方行列とし、重複度までこめて A の固有値が λ₁, …, λ_m, B の固有値が μ₁, …, μ_n であるとすると、A ⊗ B の固有値は

${\displaystyle \lambda _{i}\mu _{j}\quad (i=1,\ldots ,m;\;j=1,\ldots ,n)}$

で与えられる。従って、クロネッカー積の蹟と行列式に関して

${\displaystyle \operatorname {tr} (A\otimes B)=\operatorname {tr} \,A\ \operatorname {tr} \,B,}$

${\displaystyle \det(A\otimes B)=(\det A)^{n}(\det B)^{m}}$

が成立することが分かる。

特異値

矩形行列 A, B に関してその特異値を考えることができる。行列 A が r_A 個の非零特異値

${\displaystyle \sigma _{A,i}\quad (i=1,\ldots ,r_{A})}$

を持つものとし、同様に B の非零特異値を

${\displaystyle \sigma _{B,i}\quad (i=1,\ldots ,r_{B})}$

で表せば、クロネッカー積 A ⊗ B は r_Ar_B 個の特異値

${\displaystyle \sigma _{A,i}\sigma _{B,j}\qquad (i=1,\ldots ,r_{A};\;j=1,\ldots ,r_{B})}$

を持つ。行列の階数はその非零特異値の個数に等しいから、

${\displaystyle \operatorname {rank} (A\otimes B)=\operatorname {rank} A\ \operatorname {rank} B}$

も分かる。

抽象テンソル積との関係

行列のクロネッカー積は線型写像に対する抽象的なテンソル積に対応する。具体的に、ベクトル空間 V, W, X, Y がそれぞれ基底 {v₁, …, v_m}, {w₁, …, w_n}, {x₁, …, x_d}, {y₁, …, y_e} を持つものとすると、行列 A, B がそれぞれ線型写像 S: V → X, T: W → Y を所期の基底に関して表現するならば、クロネッカー積 A ⊗ B は写像のテンソル積 S ⊗ T: V ⊗ W → X ⊗ Y を、V ⊗ W の基底 {v₁ ⊗ w₁, v₁ ⊗ w₂, …, v₂ ⊗ w₁, …, v_m ⊗ w_n} および X ⊗ Y の同様の基底に関して表現するもので、

A ⊗ B(v_i ⊗ w_j) = (Av_i)⊗(Bw_j)

なる性質が満たされる^[1]。ただし、i, j は適当な範囲を動く整数とする。

V, W がリー環で、S: V → V, T: W → W がリー環準同型のとき、A と B のクロネッカー積は誘導されたリー環準同型 V ⊗ W → V ⊗ W を表現する。

グラフの積との関係

グラフの隣接行列のクロネッカー積はグラフのテンソル積の隣接行列になる。また、グラフの隣接行列のクロネッカー和は直積グラフの隣接行列である^[2]。

行列方程式

クロネッカー積はある種の行列方程式の簡便な表現を得るのに利用することができる。例えば、A, B, C が与えられていて、X を未知とするときの、方程式 AXB = C を考えると、この方程式は

${\displaystyle (B^{\top }\otimes A)\operatorname {vec} (X)=\operatorname {vec} (AXB)=\operatorname {vec} (C)}$

の形に書き下すことができる。ここで、vec(X) は、行列 X の各列を縦に積んで一つの列ベクトルの形にした、X のベクトル化である。このときクロネッカー積の性質から、方程式 AXB = C がただ一つの解をもつための必要十分条件が A および B がともに非特異であること (Horn & Johnson 1991, Lemma 4.3.1) が従う。

X を行順に列ベクトルとしたものを x とすれば AXB は (A ⊗ B^⊤)x と書ける (Jain 1989, 2.8 Block Matrices and Kronecker Products)。

多変量統計

多変量統計におけるモーメントはクロネッカー積を用いて表すことができる。
x = (X₁, X₂, ... ) を多変量のベクトルとすれば、^[3]

• 一次のモーメントは、${\displaystyle \mu _{1}=E[x]=(E[X_{1}],E[X_{2}],...)}$
• 二次のモーメントは、${\displaystyle \mu _{2}=E[x\otimes x^{t}]=(E[X_{1}^{2}],E[X_{2}^{2}],...,E[X_{1}X_{2}],E[X_{1}X_{3}],...)}$

三変数での例

${\displaystyle {\begin{bmatrix}a\\b\\c\end{bmatrix}}\otimes {\begin{bmatrix}a&b&c\end{bmatrix}}={\begin{bmatrix}a\cdot a&a\cdot b&a\cdot c\\b\cdot a&b\cdot b&b\cdot c\\c\cdot a&c\cdot b&c\cdot c\end{bmatrix}}}$

で共分散行列となる。

同様に、

• 三次モーメントは、${\displaystyle \mu _{3}=E[x\otimes x^{t}\otimes x^{t}]}$

２変数での例

${\displaystyle {\begin{bmatrix}a\\b\end{bmatrix}}\otimes {\begin{bmatrix}a&b\end{bmatrix}}\otimes {\begin{bmatrix}a&b\end{bmatrix}}={\begin{bmatrix}a\cdot a&a\cdot b\\b\cdot a&b\cdot b\end{bmatrix}}\otimes {\begin{bmatrix}a&b\end{bmatrix}}={\begin{bmatrix}aa\cdot a&aa\cdot b&ab\cdot a&ab\cdot b\\ba\cdot a&ba\cdot b&bb\cdot a&bb\cdot b\end{bmatrix}}}$

• 四次モーメントは、${\displaystyle \mu _{4}=E[x\otimes x^{t}\otimes x^{t}\otimes x^{t}]}$

一般に k 次モーメントは、${\displaystyle \mu _{k}=E[x^{\otimes k}]}$ と書かれる。

歴史

クロネッカー積はレオポルト・クロネッカーにその名を由来するが、クロネッカーが最初に定義をして用いたという証拠はわずかしかない。実際に過去には、ヨハン・ゲオルク・ツェーフスに因んでツェーフス行列 (Zehfuss matrix) と呼ばれたこともある。

関連項目

• 行列の乗法

脚注

参考文献

• Horn, Roger A.; Johnson, Charles R. (1991), Topics in Matrix Analysis, Cambridge University Press, ISBN 0-521-46713-6 .
• Jain, Anil K. (1989), Fundamentals of Digital Image Processing, Prentice Hall, ISBN 0-13-336165-9 .
• Steeb, Willi-Hans (1997), Matrix Calculus and Kronecker Product with Applications and C++ Programs, World Scientific Publishing, ISBN 9810232411 
• Steeb, Willi-Hans (2006), Problems and Solutions in Introductory and Advanced Matrix Calculus, World Scientific Publishing, ISBN 9812569162 

外部リンク

• Kronecker product - PlanetMath.org（英語）
• MathWorld Matrix Direct Product
• New Kronecker product problems
• Earliest Uses: The entry on The Kronecker, Zehfuss or Direct Product of matrices has historical information.