[G검정/5장] BiRNN, seq2seq

双方向RNN (양방향 RNN ; BiRNN)

: 두개의 RNN을 사용하여 하나는 정방향, 하나는 역방향으로 입력을 받는 모델

• 과거와 미래에 대한 정보를 가지고 출력을 결정할 수 있음
• 긴 시퀀스에서 패턴을 추출하는데 효과적
• 높은 정확도

 

seq2seq (sequence-to-sequence)

: RNN 인코더-디코더 모델을 사용해 인코더를 통해 입력을 받고 디코더를 통해 출력을 내보내는 방식의 모델.

• 주로 자연어 처리(NLP) 분야에서 활용
• 인코더가 입력 시퀀스를 하나의 고정된 길이의 벡터로 압축하므로, 시퀀스의 길이가 길어질수록 정보 손실 발생
• 기울기 소실, 기울기 폭발 문제가 일어날 수 있음