\( \det(AB) = \det(A) \det(B)\)의 증명

행렬식에 관한 항등식 \( \det(AB) = \det(A) \det(B) \)를 증명하는 보통의 방법은 기본행렬 \(E\)에 대해 \( \det(EB) = \det(E)\det(B)\)가 됨을 보인 다음, 행렬 \(A\)가 기본행렬들의 곱으로 쪼개질 수 있음을 보이는 것이다. \(A\)가 singular인 경우 기본행렬 분해가 불가능하지만, 이때는 행렬 \(AB\)와 \(A\)가 모두 singular이므로 양변이 모두 0이 되어 성립한다.

 

하지만 행렬식의 수식을 직접 조작해 보인 것이 아니므로, 식을 직접 조작하는 증명을 해 봐야 명쾌할 것이다. 어차피 행렬식도 행렬원소들에 대한 다항식인데, 두 다항식이 같음을 보이는 증명은 기본행렬 같은 선형대수 논리 없이도 가능해야 하지 않을까? 그 증명은 다음과 같다.

 

우선, 행렬식의 정의를 살펴보자. 여기서, \(S_n\)은 \(1,2,\dots,n\)의 대칭군이다.

$$ \det(A) := \sum_{\sigma \in S_n} (-1)^\sigma \prod_{i=1}^{n} A_{i\sigma(i)} $$

 

이를 이용해 증명할 식의 좌변에서 시작하면,

$$ \begin{aligned} \det(AB) &= \sum_{\sigma \in S_n} (-1)^\sigma \prod_{i=1}^{n} (AB)_{i\sigma(i)} \\
&= \sum_{\sigma \in S_n} (-1)^\sigma \prod_{i=1}^{n} \sum_{j=1}^{n} A_{ij}B_{j\sigma(i)}\end{aligned} $$

 

마지막 항을 보면 곱 안쪽에 시그마가 있다. 즉, \(n\)개의 항을 더한 것이 \(n\)개가 있고, 그 \(n\)개를 서로 곱하고 있으므로, 이를 전개하면 \(n^n\)개의 항이 나올 것이다. 이것을 모두 더하는 방식으로 표현해보자. 그러면, 각 항은 다음과 같은 형태를 갖는다.

$$ \prod_{i=1}^{n} A_{if(i)} B_{f(i)\sigma(i)} $$

 

이를 모든 \(f: [n] \rightarrow [n]\)에 대해 전부 더하여 나타내면 다음과 같다. (\([n] = \lbrace 1, 2, \dots, n \rbrace\))

 

$$ \begin{aligned} \det(AB) &= \sum_{\sigma \in S_n} (-1)^\sigma \sum_{f: [n] \rightarrow [n]} \prod_{i=1}^{n} A_{if(i)} B_{f(i)\sigma(i)} \\
&= \sum_{f: [n] \rightarrow [n]} \sum_{\sigma \in S_n} (-1)^\sigma \prod_{i=1}^{n} A_{if(i)} B_{f(i)\sigma(i)} \equiv \sum_{f: [n] \rightarrow [n]} \sum_{\sigma \in S_n} H(f, \sigma) \end{aligned} $$

 

자, \(f\)가 이대로 있으면 원하는 꼴이 되지 않는다. 어떻게 해야 할까? \(f(p) = f(q)\)인 \(1 \le p < q \le n\)가 존재하는 경우를 생각해보자. 그러면, \(\sigma_{pq} = (p \,q) \in S_n\)의 사이클을 생각할 때, \(H(f, \sigma) = -H(f, \sigma \circ \sigma_{pq})\)이므로 모든 \(\sigma \in S_n\)에 대해 더하면 0이 된다.

 

따라서, \(f\)는 일대일 함수인 것만 고려해도 된다. 그런데 정의역과 공역이 같고 유한하므로 \(f\)는 일대일 대응, 즉 \(f \in S_n\)이다.

$$ \det(AB) = \sum_{f\in S_n} \sum_{\sigma \in S_n} (-1)^\sigma \prod_{i=1}^{n} A_{if(i)} B_{f(i)\sigma(i)} $$

 

이때, 곱 기호는 단순히 쪼갤 수 있으므로(\(xyzw = (xy) \cdot (zw)\)로 쓰는 것과 같다),

$$ \begin{aligned} \det(AB) &= \sum_{f\in S_n} \sum_{\sigma \in S_n} (-1)^\sigma \prod_{i=1}^{n} A_{if(i)} \prod_{j=1}^{n} B_{f(j)\sigma(j)} \\
&= \sum_{f\in S_n} \sum_{\sigma \in S_n} (-1)^f (-1)^{\sigma\circ f^{-1}} \prod_{i=1}^{n} A_{if(i)} \prod_{j=1}^{n} B_{j(\sigma \circ f^{-1})(j)} \end{aligned} $$

 

이제 \(g := \sigma \circ f^{-1}\)로 치환하면

$$ \begin{aligned} \det(AB) &= \sum_{f\in S_n} \sum_{g\in S_n} (-1)^f (-1)^g \prod_{i=1}^{n} A_{if(i)} \prod_{j=1}^{n} B_{jg(j)} \\
&= \left( \sum_{f\in S_n} (-1)^f \prod_{i=1}^{n} A_{if(i)} \right) \left( \sum_{g\in S_n} (-1)^g \prod_{j=1}^{n}  B_{jg(j)} \right) = \det(A) \det(B) \end{aligned} $$

 

이므로 증명이 완료된다.