3. Recurrent Neural Network

기존의 Neural Network는 왜 안될까?

1. 번역기를 생각한다면 각 데이터마다 input, output의 길이가 다른 작업도 필요하다.

2. feature간 독립성 때문에 지역적인 연관성을 고려하지 못한다.

 

 

왼쪽 그림과 오른쪽 그림은 같은 구조를 다르게 표현한 것.

RNN 특징 및 단점

1. X, A, Y에 대한 매개변수 W 공유

2. Y<3> 예측 시 X<1>, X<2> 정보만 사용. = 이전의 정보만 참조 가능

 

Forward propagation 수식.

 

 

수식 간단하게&nbsp; 표함. W(a)로 묶음.