본문 바로가기

선형대수

(40)
Cramer's rule, inverse matrix, and volume 1. 행렬식과 역행렬■ \(  \begin{vmatrix} a & b \\ c & d \end{vmatrix}  \)같은 \( 2 \times 2 \)행렬이 있을 때, 이 행렬의 역행렬은 \( \begin{bmatrix} a & b \\ c & d \end{bmatrix}^{-1}  = \dfrac{1}{ad - bc} \begin{bmatrix} d & -b \\ -c & a \end{bmatrix} \)로 나타낼 수 있다.■ 여기서 \( \dfrac{1}{ad-bc} \)는 \( A \)의 행렬식과 같으므로 \( \dfrac{1}{\det{A}} \)라고 표현할 수 있다.■ 이제 \( \begin{bmatrix} a & b \\ c & d \end{bmatrix}^{-1}  = \dfrac{1}{ad..
Properties of determinants 1. 행렬식(Determinant)의 특성1.1 행렬식의 3가지 주요 특성■ 행렬식의 계산 결과는 숫자이고, 행렬식은 정방행렬에서만 정의된다. 즉, 행렬식은 정방행렬에서만 정의되는 숫자이다.■ 이러한 행렬식은 주요한 3가지 특성을 갖고 있으며, 이 3가지 속성이 행렬식을 정의한다. 첫 번째는 \( \text{det} I = 1 \). 두 번째는 행을 교환하면 행렬식의 부호가 반대로 바뀐다는 것이다.■ 1번 특성은, 예를 들어 다음과 같은 \( 2 \times 2 \) 단위행렬이 있다면, 이 단위행렬의 행렬식 값은 다음과 같이 1이 된다는 것이다.\( \det A = |A| = \begin{vmatrix} a & b \\ c & d \end{vmatrix} = ad - bc \)\( A = \begin{b..
Orthogonal matrices and Gram-Schmidt 1. 정규직교벡터(Orthonormal Vector)■ 정규직교벡터는 정규화된 직교벡터로 길이가 1인 벡터를 의미한다. 그러므로 정규직교벡터는 직교 벡터이면서 단위 벡터인 벡터이다.■ 벡터는 크기와 방향 성분을 가진다. 그래서 벡터를 화살표로 그리는 이유가 화살표에 크기와 방향에 대한 정보가 담겨 있기 때문이다.■ 예를 들어 벡터 \( [2 \quad 0]^T \)과 \( [2 \quad 1]^T \)이 있다고 하자. \( [2 0]^T \)의 방향은 0도이며 2의 크기를 갖는다. 하지만 \( [2 \quad 1^T \)는 \( [2 \quad 0]^T \)의 방향인 0도에서 약 26도 회전한 방향을 가지며 크기도 \( \sqrt{5} \)가 된다. 또한 벡터에 스칼라를 곱하면 벡터의 길이(크기)가 늘어..
Projection matrices and least squares 1. Projection - Two extreme cases■ 투영 행렬 \( P = A (A^T A)^{-1} A^T \)는 \( A \mathbf{x} = b \)의 우변 벡터 \( b \)를 \( A \)의 열공간에서 가장 가까운(근사한) 벡터로 바꿔주는 역할을 한다.■ 그러므로 \( P \)에 \( b \)를 곱하면 벡터 \( b \)를 열공간에서 가장 가까운 벡터 \( p \)로 투영한다. \( p = Pb \)■ 여기서 말하는 두 가지 극단적인 경우는 벡터 \( b \)가 이미 \( A \)의 열공간에 존재하는 경우와 벡터 \( b \)가 열공간에 수직인 경우이며, 두 가지 경우의 벡터 \( b \)에 투영 행렬 \( P \)를 곱했을 때 어떤 결과가 발생하는지 확인하려 한다.■ 먼저 벡터 \..
Projections onto subspaces ■ 투영행렬(projection matrix)을 알기 위해선 먼저 해가 존재하지 않는 선형연립방정식의 해를 구하는 방법을 알아야 한다. 정확히는 애초에 해가 없으므로 정확한 해를 구한다기 보다는 가장 근사한 해를 구하는 방법이다.- 이렇게 정확한 해가 없는 상태에서 가장 근사한 해를 구하는 것은 최소자승법(least square method), 투영행렬과 관련이 있다.1. Solving \( Ax = b \) when there is no solutin ■ \( A \mathbf{x} = b \)에서 행렬 \( A \)의 열공간에 우변 \( b \)가 존재하면 가해 조건을 만족하므로 해를 구할 수 있다. ■ 반면, \( A \mathbf{x} = b \)에서 행렬 \( A \)의 열공간에 우변 \( b ..
Orthogonal vectors and subspaces ■ 행공간(row space)는 어떤 행렬 \( A \)의 행벡터들의 선형 결합으로 만들 수 있는 모든 벡터들의 집합, 열공간(column space)는 열벡터들의 선형 결합으로 만들 수 있는 모든 벡터들의 집합을 의미한다.■ 영공간은 \( A \mathbf{x} = 0 \)을 만족시키는 모든 해집합 \( \mathbf{x} \)로 이뤄진 공간을, left nullspace는 \( A^T \)에 대한 영공간이며 \( A^T \mathbf{y} = 0 \)을 만족시키는 해집합 \( \mathbf{y} \)로 이뤄진 공간을 의미한다. ■ 이 4가지 부분공간들은 다음과 같은 수직 관계를 갖으며, 두 공간이 수직 관계를 갖는 것을 직교(orthogonal)한다.라고 표현한다. 행공간은 열공간과 직교하며, 열공간..
Matrix spaces; rank 1 1. 행렬 공간(Matrix spaces)■ 행렬 공간은 모든 \( 3 \times 3 \) 크기의 (정방)행렬의 공간을 의미한다. ■ 행렬 공간은 벡터 공간에 대한 조건을 만족하므로 행렬 공간은 벡터 공간이다. 그 이유는 행렬들끼리 선형 결합을 한 결과도 같은 차원의 공간에 위치하기 때문이다.■ 예를 들어 다음과 같은 \( 3 \times 3 \)행렬 \( M_1, M_2 \)와 임의의 상수 \( c_1, c_2 \)가 존재할 때, \( M_1 \)과 \( M_2 \)의 선형 결합은 다음과 같다.\(c_1 M_1 + c_2 M_2 = c_1  \begin{bmatrix}  a_{11} & a_{12} & a_{13} \\  a_{21} & a_{22} & a_{23} \\  a_{31} & a_{32..
The four fundamental subspaces 1. Four fundamental subspaces1.1 row space■ 행공간에는 행벡터의 모든 선형 결합 결과가 담겨 있다. 즉, 행벡터가 행공간을 생성한다. 그렇다고 해서 행벡터들이 모두 행공간의 기저는 아니다. 정확히는 기저일 수도 있고, 아닐 수도 있다.■ 행들이 독립적이라면 행공간의 기저가 되지만, 종속적일 때는 기저가 될 수 없다.■ 그리고 행렬에는 '전치'가 있기 때문에 행렬을 회전하면, 행에서 열로 관점을 바꿀 수 있다. 즉 \( A \)의 행벡터들이 \( A^T \)의 열벡터가 되는 것이다.■ 그러므로 행공간을 \( A^T \)의 열벡터들의 모든 선형 결합 결과가 담겨 있다고 할 수 있다. 즉 \( A \)의 행벡터들이 생성하는 공간과 \( A^T \)의 열벡터들이 생성하는 공간은..