LSTM 모듈 ( 422 ) 은 단어 n 그램 생 성부 ( 421 ) 로부터 의 출력 을 LSTM 네트워크 의 입력 으로 하 여 추론 결과 를 출력 한다 . 구체 적 으로 예측 모델 로서 , CLSTM ( contextual LSTM ) 네트워크 를 사용 할 수 있 다 . 문자 레벨 추론 부 ( 300 ) 에서 와 마찬가지 로 , 단어 레벨 추론 부 ( 400 ) 의 LSTM 모듈 ( 422 ) 도 순방향 및 역방향 LSTM 모듈 을 포함 할 수 도 있 다 . 또한 , LSTM 모듈 ( 422 ) 은 하나 이상 의 LSTM 이 연속 하 여 연결 되 어 있 을 수 도 있 다 .