RNN (모두의 딥러닝 강의 Lec 12)

모두의 딥러닝 RNN 강의(Lec 12)

https://www.youtube.com/watch?v=-SHPG_KMUkQ&list=PLlMkM4tgfjnLSOjrEJN31gZATbcj_MpUm&index=42&t=0s

모두의딥러닝rnn

 

 

rnn의 기본적인 동작 원리는 아래와 같다.

old state 와 new input이 현재의 output에 영향을 끼치게 된다.

따라서 이전의 것이 다음의 것에 영향을 끼치는 언어, 음악 등의 sequential한 분야에 쓰일 수 있다.

rnn모델

가장 기본적인 rnn모델인 vanilla모델이다. 위에서 설명한대로, 이전의 input들과 현재의 input이 현재의 output에 영향을 끼친다.

 

 

 

설명하는 모델 : character level language model example

 검색어 추천에 자동완성 기능처럼, hello를 학습시켜, h를 입력하면 e를 추천해 주는 모델

 

먼저 input값을 one hot level로 만들어 준다.

one hot level

그리고 output을 target char와 비교한다.

위와 같은 방법으로 학습이 진행된다.

 

RNN의 사용

RNN은 다양한 sequential 분야에서 사용될 수 있다.

 

앞에서부터 단어추천, 음성인식, 번역, 대화모델, 이미지/동영상 캡션달기, 이미지/음악/춤 생성

RNN의 형태

RNN은 input의 수와 output의 숫자에 따라 다양한 형태로 만들어 질 수있다.

one to many : 이미지 인식 many to one : 감정분석 many to many : 번역 many to many : 영상 caption

또한 층이 복잡한 모델로도 만들 수 있다.