Произведение Кронекера — бинарная операция над матрицами произвольного размера, обозначается ⊗ {\displaystyle \otimes } . Результатом является блочная матрица .
Произведение Кронекера не следует путать с обычным умножением матриц . Операция названа в честь немецкого математика Леопольда Кронекера .
Если A — матрица размера m ×n , B — матрица размера p ×q , тогда произведение Кронекера есть блочная матрица размера mp ×nq
A ⊗ B = [ a 11 B ⋯ a 1 n B ⋮ ⋱ ⋮ a m 1 B ⋯ a m n B ] . {\displaystyle A\otimes B={\begin{bmatrix}a_{11}B&\cdots &a_{1n}B\\\vdots &\ddots &\vdots \\a_{m1}B&\cdots &a_{mn}B\end{bmatrix}}.} В развёрнутом виде
A ⊗ B = [ a 11 b 11 a 11 b 12 ⋯ a 11 b 1 q ⋯ ⋯ a 1 n b 11 a 1 n b 12 ⋯ a 1 n b 1 q a 11 b 21 a 11 b 22 ⋯ a 11 b 2 q ⋯ ⋯ a 1 n b 21 a 1 n b 22 ⋯ a 1 n b 2 q ⋮ ⋮ ⋱ ⋮ ⋮ ⋮ ⋱ ⋮ a 11 b p 1 a 11 b p 2 ⋯ a 11 b p q ⋯ ⋯ a 1 n b p 1 a 1 n b p 2 ⋯ a 1 n b p q ⋮ ⋮ ⋮ ⋱ ⋮ ⋮ ⋮ ⋮ ⋮ ⋮ ⋱ ⋮ ⋮ ⋮ a m 1 b 11 a m 1 b 12 ⋯ a m 1 b 1 q ⋯ ⋯ a m n b 11 a m n b 12 ⋯ a m n b 1 q a m 1 b 21 a m 1 b 22 ⋯ a m 1 b 2 q ⋯ ⋯ a m n b 21 a m n b 22 ⋯ a m n b 2 q ⋮ ⋮ ⋱ ⋮ ⋮ ⋮ ⋱ ⋮ a m 1 b p 1 a m 1 b p 2 ⋯ a m 1 b p q ⋯ ⋯ a m n b p 1 a m n b p 2 ⋯ a m n b p q ] . {\displaystyle \mathbf {A} \otimes \mathbf {B} ={\begin{bmatrix}a_{11}b_{11}&a_{11}b_{12}&\cdots &a_{11}b_{1q}&\cdots &\cdots &a_{1n}b_{11}&a_{1n}b_{12}&\cdots &a_{1n}b_{1q}\\a_{11}b_{21}&a_{11}b_{22}&\cdots &a_{11}b_{2q}&\cdots &\cdots &a_{1n}b_{21}&a_{1n}b_{22}&\cdots &a_{1n}b_{2q}\\\vdots &\vdots &\ddots &\vdots &&&\vdots &\vdots &\ddots &\vdots \\a_{11}b_{p1}&a_{11}b_{p2}&\cdots &a_{11}b_{pq}&\cdots &\cdots &a_{1n}b_{p1}&a_{1n}b_{p2}&\cdots &a_{1n}b_{pq}\\\vdots &\vdots &&\vdots &\ddots &&\vdots &\vdots &&\vdots \\\vdots &\vdots &&\vdots &&\ddots &\vdots &\vdots &&\vdots \\a_{m1}b_{11}&a_{m1}b_{12}&\cdots &a_{m1}b_{1q}&\cdots &\cdots &a_{mn}b_{11}&a_{mn}b_{12}&\cdots &a_{mn}b_{1q}\\a_{m1}b_{21}&a_{m1}b_{22}&\cdots &a_{m1}b_{2q}&\cdots &\cdots &a_{mn}b_{21}&a_{mn}b_{22}&\cdots &a_{mn}b_{2q}\\\vdots &\vdots &\ddots &\vdots &&&\vdots &\vdots &\ddots &\vdots \\a_{m1}b_{p1}&a_{m1}b_{p2}&\cdots &a_{m1}b_{pq}&\cdots &\cdots &a_{mn}b_{p1}&a_{mn}b_{p2}&\cdots &a_{mn}b_{pq}\end{bmatrix}}.}
Если A и B представляют собой линейные преобразования V 1 → W 1 и V 2 → W 2 , соответственно, то A ⊗ B представляет собой тензорное произведение двух отображений, V 1 ⊗ V 2 → W 1 ⊗ W 2 .
[ 1 2 3 4 ] ⊗ [ 0 5 6 7 ] = [ 1 ⋅ 0 1 ⋅ 5 2 ⋅ 0 2 ⋅ 5 1 ⋅ 6 1 ⋅ 7 2 ⋅ 6 2 ⋅ 7 3 ⋅ 0 3 ⋅ 5 4 ⋅ 0 4 ⋅ 5 3 ⋅ 6 3 ⋅ 7 4 ⋅ 6 4 ⋅ 7 ] = [ 0 5 0 10 6 7 12 14 0 15 0 20 18 21 24 28 ] {\displaystyle {\begin{bmatrix}1&2\\3&4\\\end{bmatrix}}\otimes {\begin{bmatrix}0&5\\6&7\\\end{bmatrix}}={\begin{bmatrix}1\cdot 0&1\cdot 5&2\cdot 0&2\cdot 5\\1\cdot 6&1\cdot 7&2\cdot 6&2\cdot 7\\3\cdot 0&3\cdot 5&4\cdot 0&4\cdot 5\\3\cdot 6&3\cdot 7&4\cdot 6&4\cdot 7\\\end{bmatrix}}={\begin{bmatrix}0&5&0&10\\6&7&12&14\\0&15&0&20\\18&21&24&28\end{bmatrix}}} . A ⊗ ( B + C ) = A ⊗ B + A ⊗ C , {\displaystyle A\otimes (B+C)=A\otimes B+A\otimes C,} ( A + B ) ⊗ C = A ⊗ C + B ⊗ C , {\displaystyle (A+B)\otimes C=A\otimes C+B\otimes C,} ( k A ) ⊗ B = A ⊗ ( k B ) = k ( A ⊗ B ) , {\displaystyle (kA)\otimes B=A\otimes (kB)=k(A\otimes B),} ( A ⊗ B ) ⊗ C = A ⊗ ( B ⊗ C ) , {\displaystyle (A\otimes B)\otimes C=A\otimes (B\otimes C),} где A , B и C есть матрицы, а k — скаляр. A ⊗ B = P ( B ⊗ A ) Q . {\displaystyle A\otimes B=P\,(B\otimes A)\,Q.} Если A и B квадратные матрицы , тогда A ⊗ {\displaystyle \otimes } B и B ⊗ {\displaystyle \otimes } A являются перестановочно подобными , то есть, P = Q T .
Операции транспонирования и эрмитова сопряжения можно переставлять с произведением Кронекера:
( A ⊗ B ) T = A T ⊗ B T , {\displaystyle (A\otimes B)^{T}=A^{T}\otimes B^{T},} ( A ⊗ B ) H = A H ⊗ B H . {\displaystyle (A\otimes B)^{H}=A^{H}\otimes B^{H}.} Если A , B , C и D являются матрицами такого размера, что существуют произведения AC и BD , тогда ( A ⊗ B ) ( C ⊗ D ) = A C ⊗ B D . {\displaystyle (A\otimes B)(C\otimes D)=AC\otimes BD.} A ⊗ {\displaystyle \otimes } B является обратимой тогда и только тогда, когда A и B являются обратимыми, и тогда ( A ⊗ B ) − 1 = A − 1 ⊗ B − 1 . {\displaystyle (A\otimes B)^{-1}=A^{-1}\otimes B^{-1}.} ( A ⊗ B ) ⊙ ( C ⊗ D ) = ( A ⊙ C ) ⊗ ( B ⊙ D ) {\displaystyle (A\otimes B)\odot (C\otimes D)=(A\odot C)\otimes (B\odot D)} , где ⊙ {\displaystyle \odot } - произведение Адамара A ⊗ B = ( I ⊗ B ) ( A ⊗ I ) {\displaystyle A\otimes B=(I\otimes B)(A\otimes I)} , где I {\displaystyle I} - единичная матрица. Пусть A — матрица размера n ×n , B — матрица размера m ×m и E k {\displaystyle E_{k}} — единичная матрица размера k ×k . Тогда можно определить сумму Кронекера ⊕ {\displaystyle \oplus } как A ⊕ B = A ⊗ E m + E n ⊗ B . {\displaystyle A\oplus B=A\otimes E_{m}+E_{n}\otimes B.} e A ⊕ B = e A ⊗ e B . {\displaystyle e^{A\oplus B}=e^{A}\otimes e^{B}.} Если A и B квадратные матрицы размера n и q соответственно. Если λ1 , …, λn — собственные значения матрицы A и μ1 , …, μq собственные значения матрицы B . Тогда собственными значениями A ⊗ {\displaystyle \otimes } B являются λ i μ j , i = 1 , … , n , j = 1 , … , q . {\displaystyle \lambda _{i}\mu _{j},\qquad i=1,\ldots ,n,\,j=1,\ldots ,q.} tr ( A ⊗ B ) = tr ( A ) tr ( B ) , {\displaystyle \operatorname {tr} (A\otimes B)=\operatorname {tr} (A)\,\operatorname {tr} (B),} det ( A ⊗ B ) = ( det A ) q ( det B ) n . {\displaystyle \det(A\otimes B)=(\det A)^{q}(\det B)^{n}.} σ A , i , i = 1 , … , r A . {\displaystyle \sigma _{A,i},\qquad i=1,\ldots ,r_{A}.} Ненулевые сингулярные значения матрицы B :
σ B , i , i = 1 , … , r B . {\displaystyle \sigma _{B,i},\qquad i=1,\ldots ,r_{B}.} Тогда произведение Кронекера A ⊗ {\displaystyle \otimes } B имеет r A r B ненулевых сингулярных значений
σ A , i σ B , j , i = 1 , … , r A , j = 1 , … , r B . {\displaystyle \sigma _{A,i}\sigma _{B,j},\qquad i=1,\ldots ,r_{A},\,j=1,\ldots ,r_{B}.} Ранг матрицы равен количеству ненулевых сингулярных значений, rank ( A ⊗ B ) = rank ( A ) rank ( B ) . {\displaystyle \operatorname {rank} (A\otimes B)=\operatorname {rank} (A)\,\operatorname {rank} (B).} Произведение Кронекера названо в честь Леопольда Кронекера , несмотря даже на то, что существует мало свидетельств о том, что он был первым, кто определил и использовал эту операцию. В прошлом произведение Кронекера иногда называли матрицей Зефусса .
В случае блочных матриц могут использоваться матричные операции, связанные c произведением Кронекера и отличающиеся порядком соответствующего перемножения блоков. Таковыми являются произведения Трейси – Сингха (англ. Tracy–Singh product ) и произведение Хатри — Рао .
Указанная операция перемножения блочных матриц заключается в том, что каждый блок левой матрицы умножается последовательно на блоки правой матрицы. При этом формируемая структура результирующей матрицы отличается от характерной для произведения Кронекера. Произведение Трейси – Сингха определяется как[ 1] [ 2]
A ⊙ B = ( A i j ⊙ B ) i j = ( ( A i j ⊗ B k l ) k l ) i j {\displaystyle \mathbf {A} \odot \mathbf {B} =\left(\mathbf {A} _{ij}\odot \mathbf {B} \right)_{ij}=\left(\left(\mathbf {A} _{ij}\otimes \mathbf {B} _{kl}\right)_{kl}\right)_{ij}} Например:
A = [ A 11 A 12 A 21 A 22 ] = [ 1 2 3 4 5 6 7 8 9 ] , B = [ B 11 B 12 B 21 B 22 ] = [ 1 4 7 2 5 8 3 6 9 ] , {\displaystyle \mathbf {A} =\left[{\begin{array}{c | c}\mathbf {A} _{11}&\mathbf {A} _{12}\\\hline \mathbf {A} _{21}&\mathbf {A} _{22}\end{array}}\right]=\left[{\begin{array}{c c | c}1&2&3\\4&5&6\\\hline 7&8&9\end{array}}\right],\quad \mathbf {B} =\left[{\begin{array}{c | c}\mathbf {B} _{11}&\mathbf {B} _{12}\\\hline \mathbf {B} _{21}&\mathbf {B} _{22}\end{array}}\right]=\left[{\begin{array}{c | c c}1&4&7\\\hline 2&5&8\\3&6&9\end{array}}\right],} A ⊙ B = [ A 11 ⊙ B A 12 ⊙ B A 21 ⊙ B A 22 ⊙ B ] = [ A 11 ⊗ B 11 A 11 ⊗ B 12 A 12 ⊗ B 11 A 12 ⊗ B 12 A 11 ⊗ B 21 A 11 ⊗ B 22 A 12 ⊗ B 21 A 12 ⊗ B 22 A 21 ⊗ B 11 A 21 ⊗ B 12 A 22 ⊗ B 11 A 22 ⊗ B 12 A 21 ⊗ B 21 A 21 ⊗ B 22 A 22 ⊗ B 21 A 22 ⊗ B 22 ] = [ 1 2 4 7 8 14 3 12 21 4 5 16 28 20 35 6 24 42 2 4 5 8 10 16 6 15 24 3 6 6 9 12 18 9 18 27 8 10 20 32 25 40 12 30 48 12 15 24 36 30 45 18 36 54 7 8 28 49 32 56 9 36 63 14 16 35 56 40 64 18 45 72 21 24 42 63 48 72 27 54 81 ] . {\displaystyle {\begin{aligned}\mathbf {A} \odot \mathbf {B} =\left[{\begin{array}{c | c}\mathbf {A} _{11}\odot \mathbf {B} &\mathbf {A} _{12}\odot \mathbf {B} \\\hline \mathbf {A} _{21}\odot \mathbf {B} &\mathbf {A} _{22}\odot \mathbf {B} \end{array}}\right]={}&\left[{\begin{array}{c | c | c | c}\mathbf {A} _{11}\otimes \mathbf {B} _{11}&\mathbf {A} _{11}\otimes \mathbf {B} _{12}&\mathbf {A} _{12}\otimes \mathbf {B} _{11}&\mathbf {A} _{12}\otimes \mathbf {B} _{12}\\\hline \mathbf {A} _{11}\otimes \mathbf {B} _{21}&\mathbf {A} _{11}\otimes \mathbf {B} _{22}&\mathbf {A} _{12}\otimes \mathbf {B} _{21}&\mathbf {A} _{12}\otimes \mathbf {B} _{22}\\\hline \mathbf {A} _{21}\otimes \mathbf {B} _{11}&\mathbf {A} _{21}\otimes \mathbf {B} _{12}&\mathbf {A} _{22}\otimes \mathbf {B} _{11}&\mathbf {A} _{22}\otimes \mathbf {B} _{12}\\\hline \mathbf {A} _{21}\otimes \mathbf {B} _{21}&\mathbf {A} _{21}\otimes \mathbf {B} _{22}&\mathbf {A} _{22}\otimes \mathbf {B} _{21}&\mathbf {A} _{22}\otimes \mathbf {B} _{22}\end{array}}\right]\\={}&\left[{\begin{array}{c c | c c c c | c | c c}1&2&4&7&8&14&3&12&21\\4&5&16&28&20&35&6&24&42\\\hline 2&4&5&8&10&16&6&15&24\\3&6&6&9&12&18&9&18&27\\8&10&20&32&25&40&12&30&48\\12&15&24&36&30&45&18&36&54\\\hline 7&8&28&49&32&56&9&36&63\\\hline 14&16&35&56&40&64&18&45&72\\21&24&42&63&48&72&27&54&81\end{array}}\right].\end{aligned}}} Данный вариант умножения определён для матриц с одинаковой блочной структурой. Он предусматривает, что операция кронекеровского произведения выполняется поблочно, в пределах одноимённых матричных блоков по аналогии с поэлементным произведением Адамара , только при этом в качестве элементов фигурируют блоки матриц, а для умножения блоков используется кронекеровское произведение.
↑ Tracy, D. S.; Singh, R. P. (1972). "A New Matrix Product and Its Applications in Matrix Differentiation". Statistica Neerlandica . 26 (4): 143—157. doi :10.1111/j.1467-9574.1972.tb00199.x . ↑ Liu, S. (1999). "Matrix Results on the Khatri–Rao and Tracy–Singh Products". Linear Algebra and Its Applications . 289 (1—3): 267—277. doi :10.1016/S0024-3795(98)10209-4 . Хорн Р. Матричный анализ: Пер. с англ. / Р. Хорн, Ч. Джонсон. – М.: Мир, 1989.– 655 с.