RNN (1)
1. 순환 신경망(Recurrent Neural Network, RNN)■ 시계열 데이터에 더 나은 예측을 하기 위해 과거 시점의 정보를 현재 시점에 반영하는 순환 신경망(Recurrent Neural Network, RNN)은 피드포워드 신경망과 달리 다음과 같이 순환 경로가 존재한다. 1.1 RNN 구조■ \( x_t \)가 입력층의 입력 벡터라고 할 때, 각 단어의 분산 표현은 \( x_t \)이며, \( x_0, x_1, \cdots, x_t, \cdots \)가 순서대로 하나씩 RNN 계층에 들어간다. ■ 위와 같은 순환 구조를 시점(time step) 기준으로 펼치면, 다음과 같이 한 방향으로 연산이 수행되는 피드포워드 신경망으로 볼 수 있다. - RNN을 표현할 때, 위의 그림에서 좌측과 같..
