RNN (모두의 딥러닝 강의 Lec 12)

딥러닝

JihyunLee 2019. 5. 11. 12:16

모두의 딥러닝 RNN 강의(Lec 12)

모두의딥러닝rnn

rnn의 기본적인 동작 원리는 아래와 같다.

old state 와 new input이 현재의 output에 영향을 끼치게 된다.

따라서 이전의 것이 다음의 것에 영향을 끼치는 언어, 음악 등의 sequential한 분야에 쓰일 수 있다.

가장 기본적인 rnn모델인 vanilla모델이다. 위에서 설명한대로, 이전의 input들과 현재의 input이 현재의 output에 영향을 끼친다.

검색어 추천에 자동완성 기능처럼, hello를 학습시켜, h를 입력하면 e를 추천해 주는 모델

먼저 input값을 one hot level로 만들어 준다.

그리고 output을 target char와 비교한다.

위와 같은 방법으로 학습이 진행된다.

RNN은 다양한 sequential 분야에서 사용될 수 있다.

RNN은 input의 수와 output의 숫자에 따라 다양한 형태로 만들어 질 수있다.

또한 층이 복잡한 모델로도 만들 수 있다.