본문 바로가기

분류 전체보기

 (158)
적률생성함수 1. 적률(Moment)■ 기댓값, 분산은 확률변수에 대한 의미있는 정보를 제공하지만, 이 정보만으로 분포를 결정할 수는 없다.■ 추가로 \( E(X^3) \) 왜도(skewness), \( E(X^4) \) 첨도(kurtosis)를 얻을 수 있다면, 확률변수 \( X \)에 대해 더 잘 파악할 수 있다.■ 확률변수 \( X \)에 대하여 \( E(X^k) \)를 \( k \)차 적률이라고 하며, \( \mu_k' \)으로 표기한다. 그리고 \( E((X-E[X])^k) \)를 \( X \)의 \( k \)차 중심 적률(central moment) 또는 \( k \)차 중심 모멘트라고 한다.■ \( k \)차 적률은 다음과 같이 확률변수 \( X^k \)의 평균으로 정의하며, 이산형인지 연속형인지에 따라..
이산형 확률분포 ■ '표본공간(sample sapce)'는 실험으로부터 나온 모든 결과를 담고 있는 집합이다.■ 실험으로부터 나온 개별 결과들(표본공간의 원소들)을 실수로 변환할 때 필요한 함수가 '확률변수(random variable)'이다. 표본공간의 원소들을 확률변수라는 함수의 입력으로 넣으면 실수(real number)가 출력된다.■ 확률변수로부터 나온 실수를 '확률'로 바꾸기 위한 함수는 '확률 함수'이다. 즉, 실수를 확률 함수의 입력으로 넣으면 확률이 출력된다. ■ 확률 함수의 출력으로 나오는 '확률들의 패턴'이 '확률분포'이다.■ 정리하면,- (1) 표본공간의 원소인 실험으로부터 나온 모든 결과를 '확률변수'라는 함수에 넣어서 실수로 변환한다.- (2) 변환된 실수들을 '확률함수'에 넣으면 확률이 출력된다..
Cramer's rule, inverse matrix, and volume 1. 행렬식과 역행렬■ \(  \begin{vmatrix} a & b \\ c & d \end{vmatrix}  \)같은 \( 2 \times 2 \)행렬이 있을 때, 이 행렬의 역행렬은 \( \begin{bmatrix} a & b \\ c & d \end{bmatrix}^{-1}  = \dfrac{1}{ad - bc} \begin{bmatrix} d & -b \\ -c & a \end{bmatrix} \)로 나타낼 수 있다.■ 여기서 \( \dfrac{1}{ad-bc} \)는 \( A \)의 행렬식과 같으므로 \( \dfrac{1}{\det{A}} \)라고 표현할 수 있다.■ 이제 \( \begin{bmatrix} a & b \\ c & d \end{bmatrix}^{-1}  = \dfrac{1}{ad..
Properties of determinants 1. 행렬식(Determinant)의 특성1.1 행렬식의 3가지 주요 특성■ 행렬식의 계산 결과는 숫자이고, 행렬식은 정방행렬에서만 정의된다. 즉, 행렬식은 정방행렬에서만 정의되는 숫자이다.■ 이러한 행렬식은 주요한 3가지 특성을 갖고 있으며, 이 3가지 속성이 행렬식을 정의한다. 첫 번째는 \( \text{det} I = 1 \). 두 번째는 행을 교환하면 행렬식의 부호가 반대로 바뀐다는 것이다.■ 1번 특성은, 예를 들어 다음과 같은 \( 2 \times 2 \) 단위행렬이 있다면, 이 단위행렬의 행렬식 값은 다음과 같이 1이 된다는 것이다.\( \det A = |A| = \begin{vmatrix} a & b \\ c & d \end{vmatrix} = ad - bc \)\( A = \begin{b..
Orthogonal matrices and Gram-Schmidt 1. 정규직교벡터(Orthonormal Vector)■ 정규직교벡터는 정규화된 직교벡터로 길이가 1인 벡터를 의미한다. 그러므로 정규직교벡터는 직교 벡터이면서 단위 벡터인 벡터이다.■ 벡터는 크기와 방향 성분을 가진다. 그래서 벡터를 화살표로 그리는 이유가 화살표에 크기와 방향에 대한 정보가 담겨 있기 때문이다.■ 예를 들어 벡터 \( [2 \quad 0]^T \)과 \( [2 \quad 1]^T \)이 있다고 하자. \( [2 0]^T \)의 방향은 0도이며 2의 크기를 갖는다. 하지만 \( [2 \quad 1^T \)는 \( [2 \quad 0]^T \)의 방향인 0도에서 약 26도 회전한 방향을 가지며 크기도 \( \sqrt{5} \)가 된다. 또한 벡터에 스칼라를 곱하면 벡터의 길이(크기)가 늘어..
Projection matrices and least squares 1. Projection - Two extreme cases■ 투영 행렬 \( P = A (A^T A)^{-1} A^T \)는 \( A \mathbf{x} = b \)의 우변 벡터 \( b \)를 \( A \)의 열공간에서 가장 가까운(근사한) 벡터로 바꿔주는 역할을 한다.■ 그러므로 \( P \)에 \( b \)를 곱하면 벡터 \( b \)를 열공간에서 가장 가까운 벡터 \( p \)로 투영한다. \( p = Pb \)■ 여기서 말하는 두 가지 극단적인 경우는 벡터 \( b \)가 이미 \( A \)의 열공간에 존재하는 경우와 벡터 \( b \)가 열공간에 수직인 경우이며, 두 가지 경우의 벡터 \( b \)에 투영 행렬 \( P \)를 곱했을 때 어떤 결과가 발생하는지 확인하려 한다.■ 먼저 벡터 \..
Projections onto subspaces ■ 투영행렬(projection matrix)을 알기 위해선 먼저 해가 존재하지 않는 선형연립방정식의 해를 구하는 방법을 알아야 한다. 정확히는 애초에 해가 없으므로 정확한 해를 구한다기 보다는 가장 근사한 해를 구하는 방법이다.- 이렇게 정확한 해가 없는 상태에서 가장 근사한 해를 구하는 것은 최소자승법(least square method), 투영행렬과 관련이 있다.1. Solving \( Ax = b \) when there is no solutin ■ \( A \mathbf{x} = b \)에서 행렬 \( A \)의 열공간에 우변 \( b \)가 존재하면 가해 조건을 만족하므로 해를 구할 수 있다. ■ 반면, \( A \mathbf{x} = b \)에서 행렬 \( A \)의 열공간에 우변 \( b ..
Orthogonal vectors and subspaces ■ 행공간(row space)는 어떤 행렬 \( A \)의 행벡터들의 선형 결합으로 만들 수 있는 모든 벡터들의 집합, 열공간(column space)는 열벡터들의 선형 결합으로 만들 수 있는 모든 벡터들의 집합을 의미한다.■ 영공간은 \( A \mathbf{x} = 0 \)을 만족시키는 모든 해집합 \( \mathbf{x} \)로 이뤄진 공간을, left nullspace는 \( A^T \)에 대한 영공간이며 \( A^T \mathbf{y} = 0 \)을 만족시키는 해집합 \( \mathbf{y} \)로 이뤄진 공간을 의미한다. ■ 이 4가지 부분공간들은 다음과 같은 수직 관계를 갖으며, 두 공간이 수직 관계를 갖는 것을 직교(orthogonal)한다.라고 표현한다. 행공간은 열공간과 직교하며, 열공간..

티스토리툴바