[개념] 행렬의 대각화(Diagonalization)

1. 행렬의 대각화

1.1 닮은행렬

■ 행렬 $A$와 $B$가 같은 크기의 $n \times n$ 정사각행렬일 때, $B = P^{-1}AP$를 만족시키는 가역행렬 $P$가 존재하면, $A$와 $B$는 서로 닮은(similar)행렬이라고 한다. 

- $P$가 가역행렬이라면, $P$는 $n$개의 독립 벡터를 가진다.

■ $A$와 $B$가 닮은행렬이라는 것은, 두 행렬이 같은 선형변환의 서로 다른 기저에 대한 행렬 표현임을 의미한다. 그러므로 다음과 같은 성질들을 공유한다.

- (1) 행렬식이 같다. $\det{(A)} = \det{(B)}$

- (2) 계수(rank)가 같다. $\text{rank} (A) = \text{rank} (B)$

- (3) rank가 같으므로 해공간의 차원이 같다.

- (4) 대각합이 같다. $\text{trace} (A) = \text{trace} (B)$

- (5) 고윳값이 같다.

- (6) 고윳값이 같으므로 고유다항식이 동일하다.

- (7) 고윳값에 대한 대수적 중복도와 기하적 중복도가 같다.

- (8) 최소다항식이 동일하다.

- 닮음행렬의 $B = P^{-1}AP$는 복잡한 행렬을 단순한 모양의 닮음행렬로 변환한 것으로 생각할 수 있다. 

- 참고) 고유값의 대수적 중복도와 기하적 중복도

-

 

 

1.2 닮은 대각행렬

■ 닮은 대각행렬의 개념은 닮은 행렬 안에 포함된다.

■ 즉, 닮은행렬 $P^{-1}AP = D$를 만족시키는 가역행렬 $P$가 존재하는데, 이 $P$가 $A$의 고유벡터로 이루어진 행렬일 때, $D$를 닮은 대각행렬이라 한다. 이때 $D$는 $A$와 위의 성질들((1)~(8))을 공유하며, $D$의 형태는 대각원소가 $A$의 고윳값인 대각행렬이다.

■ 즉, $P^{-1} A P = D = Diag( \lambda_1, \lambda_2, \cdots , \lambda_n$)이다. 

- 이때의 행렬 $A$를 '대각화 가능한 행렬'이라 하고, 

- 행렬 $P$를 '$A$의 고유벡터로 이루어진 행렬' 또는 '$A$를 대각화하는 행렬'이라 하며

- 행렬 $D$를 '$A$의 고윳값으로 이루어진 행렬' 또는 대각화(닮은 대각화)행렬이라고 부른다.

■ $P^{-1} A P = D = Diag(\lambda_1, \lambda_2, \cdots , \lambda_n$)는 마치 LU 분해, QR 분해처럼 행렬의 고윳값과 고유벡터로 구성된 행렬로 분해하기 때문에 고윳값 분해라고도 부른다.

1.3 $A$가 대각화 가능할 필요충분조건

■ $n \times n$ 크기의 $P^{-1}AP = D$에서 행렬 $P_{n \times n}$가 가역행렬이라는 것은 $P$의 $n$개의 벡터들이 독립 벡터라는 것이며, 행렬 $P$를 이루고 있는 벡터는 $A$의 고유벡터이므로 

■ $P_{n \times n}$는 $A_{n \times n}$의 $n$개의 선형 독립인 고유벡터들로 이루어진 행렬이라는 의미이다. 그러므로 다음과 같은 동치관계가 성립한다.

$P^{-1} A P = Diag( \lambda_1, \lambda_2, \cdots , \lambda_n$)인 가역행렬 $P$가 존재

양변에 $P$를 곱하면

$A P = PDiag( \lambda_1, \lambda_2, \cdots , \lambda_n$)인 가역행렬 $P$가 존재

$\lambda$는 숫자이므로

$A(P^C_1, P^C_2, \cdots, P^C_n) = (\lambda_1 P^C_1, \lambda_2 P^C_2, \cdots, \lambda_n P^C_n)$인 가역행렬 $P = (P^C_1, P^C_2, \cdots, P^C_n)$이 존재

$\Leftrightarrow$ 선형독립인 $n$개의 고유벡터 $P^C_i, \; \left( i = 1, 2, \cdots, n \right)$에 대해 $AP^C_i = \lambda_i P^C_i$가 성립

- $P^C_1, P^C_2, \cdots, P^C_n$는 행렬 $P$의 열벡터

■ 즉, 행렬 $A$가 정방행렬 $n \times n$일 때, $P^{-1}AP = D$라고 하자. 이때, 대각화 가능 여부는 그런 행렬 $P_{n \times n}$가 존재하느냐이다. 

■ $P_{n \times n}$는 가역행렬이므로 $\det{(P_{n \times n})} \neq 0 \Leftrightarrow | P^C_1 \; P^C_2 \; \cdots \; P^C_n | \neq 0 \Leftrightarrow$ $n$개의 선형독립인 고유벡터를 갖는다.

■ 앞서, [개념] 고유치, 고윳값(eigenvalue), 고유벡터(eigenvector) 에서 다음과 같은 선형변환의 예가 있었다.

■ 이 예에서 기저에 대한 행렬표현은 주대각원소가 $\lambda_i$인 대각행렬 $\begin{pmatrix} 2 & 0 \\ 0 & 1 \end{pmatrix}$였다. 이 행렬이 대각행렬(닮은 대각행렬)이다. 그러므로 대각행렬에는 선형변환(사상)의 특성이 담겨 있다고 볼 수 있다. 

■ 정리하면, 대각화 가능할 필요충분조건인 $n$개의 선형독립인 고유벡터로 구성된 행렬 $P$가 존재한다.는 것은 행렬 $A_{n \times n}$가 $n$개의 서로 다른 고윳값을 가진다는 의미이다. 즉, 행렬 $A$의 고윳값이 중근을 가지는 경우에는 대각화가 불가능할 수 있다는 것을 의미한다. 

■ 예를 들어, $3 \times 3$ 행렬 $A$의 고윳값 $\lambda = 1, 2, 3$이라고 하자.

- 그렇다면, $\lambda_1 = 1$에 대응하는 고유벡터, $\lambda_2 = 2$에 대응하는 고유벡터, $\lambda_3 = 3$에 대응하는 고유벡터가 있을 것이다.

- 이 고유벡터들은 $\lambda_1 = 1$에 대응하는 고유공간의 기저이고 $\lambda_2 = 2$에 대응하는 고유공간의 기저, $\lambda_3 = 3$에 대응하는 고유공간의 기저이다.

- 즉, 각각의 고윳값 $\lambda_1, \lambda_2, \lambda_3$에 대응되는 고유공간은 공간 자체가 다르다. 각 공간을 생성하는 기저가 모두 다르기 때문이다.

- 다시 말해, 대응되는 공간 자체가 다르므로 기저가 같을 수 없다. 즉, 각각의 고유공간의 기저도 다르다.

- 기저가 다르다는 것은 고유벡터가 서로 다르다는 것을 의미한다. 즉, 고유벡터가 모두 다르다는 것은 '독립'이라는 얘기이다.

- 그래서 $n \times n$행렬에서 서로 다른 고유치가 $n$개 나오면, 독립적인 고유벡터가 $n$개가 나오기 때문에 대각화는 무조건 가능하다고 할 수 있다.

- 그러나 고유치가 중근이 나올 경우, 예를 들어 $3 \times 3$ 행렬 $A$에서 고윳값 $\lambda = 1, 2, 2$라고 하자.

- 우선, $\lambda_1 =1$과 $\lambda_2 = \lambda_3 = 2$는 고윳값이 다르므로 대응되는 고유공간이 다르다.

- 이때, $\lambda_2, \lambda_3 = 2, 2$에 대응되는 고유벡터는 최대 2개까지 나올 수 있다. 

- 이렇게 $\lambda = 2$에 대응하는 고유벡터가 2개 나왔다면, $3 \times 3$행렬 $A$에서 서로 다른 고유벡터. 즉, 선형독립인 고유벡터 3개가 나왔으므로 이 경우는 대각화가 가능하다.

- 반면, $\lambda = 2$에 대응하는 독립적인 고유벡터가 1개 나왔다면, '종속'을 의미하므로 대각화 불가능이다. 

■ 그러므로 $n \times n$ 행렬 $A$가 대각화 가능한 행렬인지 알고 싶다면, $A$의 고윳값 $\lambda$에 대응하는 선형독립인 고유벡터의 개수를 확인해야 한다.

- 이때 $A \mathbf{x} = \lambda \mathbf{x}$이므로 

- $A$의 고윳값 $\lambda$에 대응하는 선형독립인 고유벡터의 개수 = $A - \lambda I$ 행렬의 열공간 기저의 개수라고 할 수 있다.

- $A - \lambda I$ 행렬의 열공간 기저의 개수는 $A - \lambda I$ 행렬의 영공간의 차원이므로, 퇴화차수 정리에 따라

- $A$의 고윳값 $\lambda$에 대응하는 선형독립인 고유벡터의 개수 = $A - \lambda I$ 행렬의 열공간 기저의 개수 = $A - \lambda I$ 행렬의 영공간의 차원 = $\text{nullity} (A - \lambda I) = n - \text{rank} (A - \lambda I)$가 성립한다.

- 즉, $\text{nullity} (A - \lambda I) = n - \text{rank} (A - \lambda I)$이면, $A_{n \times n}$은 대각화 가능하다.

■ 또한 대칭행렬은 $A^T = A$이므로, 행렬 $A$가 $n \times n$정방행렬이고 대칭행렬이라면, $A^T$의 고윳값 $\lambda$에 대응하는 선형독립인 고유벡터의 개수는 $A$의 고윳값 $\lambda$에 대응하는 선형독립인 고유벡터의 개수와 동일한 의미이므로, $n \times n$ 행렬 $A$가 대칭행렬이면 항상 대각화 가능하다고 할 수 있다.

1.4 행렬 $A$를 대각화하는 방법

■ 1.3의 내용에 따라  $A_{n \times n}$ 행렬을 대각화하는 방법은

- (1) $A_{n \times n}$의 $n$개의 선형독립 고유벡터 $P^C_1, P^C_2, \cdots, P^C_n$를 구한다.

- (2) $P^C_1, P^C_2, \cdots, P^C_n$를 열벡터로 하는 행렬 $P$를 구성한다.

- (3) 행렬 $P^{-1}AP$는 $A_{n \times n}$의 $n$개의 고윳값 $\lambda_1, \lambda_2, \cdots, \lambda_n$을 대각성분으로 가지는 대각행렬이 된다.

- 이때의 $\lambda_i$는 $P^C_i$에 대응하는 고윳값이다. $(i = 1, 2, \cdots , n)$

■ 예를 들어, 행렬 $A = \begin{pmatrix} 1 & 1 \\ -2 & 4 \end{pmatrix}$일 때, $A$를 대각화하면, 

1.5 행렬의 멱승에 관한 계산법

■ 행렬 $A$가 $n \times n$ 정방행렬이고, $P$가 가역행렬이라 $P^{-1} A P = D$로 대각화가 가능하다고 가정하자. 

■ 그러면 $(P^{-1}AP)^2 = (P^{-1}AP)(P^{-1}AP) = P^{-1}A^2P$이 성립한다. \( (P^{-1}AP)^3, (P^{-1}AP)^4, \cdots \)도 성립한다.

■ 이를 일반화하면, 양의 정수 $n$에 대해 $A$가 대각화 가능하고, $P^{-1} A P = D$가 대각행렬이면, $D^n = (P^{-1}AP)^n = P^{-1}A^nP$ 또는 $A^n = PD^nP^{-1}$가 성립한다.

- 이를 이용하면, 조건을 만족할 때 $A^n$이나 $D^n$을 쉽게 계산할 수 있다.

 

참고) 두 행렬의 동시 대각화

$A \mathbf{x} = \lambda B \mathbf{x}$가 성립할 때, 고윳값과 고유벡터 쌍은 행렬 $A$만의 고윳값과 고유벡터가 아니며 행렬 $B$만의 고윳값과 고유벡터도 아니다. 두 행렬 $A$와 $B$는 $A \mathbf{x} = \lambda B \mathbf{x}$ 이때의 고윳값과 고유벡터 쌍을 공유한다. 이를 두 행렬의 동시 대각화라고 한다.