He 는 인코더 의 히든 리 프리젠테이션 ( hidden representation ) 으로 컨텍스트 벡터 ( 113 ) 에 해당 할 수 있 다 . t 1 내지 ti - 1 은 지금 까지 인식 되 었 던 토큰 들 일 수 있 다 . 디코더 ( 120 ) 는 컨텍스트 벡터 ( 113 ) 및 지금 까지 인식 되 었 던 토큰 들 에 기초 하 여 이후 출력 토큰 을 결정 할 수 있 다 . 컨텍스트 벡터 ( 113 ) 는 음성 정보 ( 111 ) 의 진행 정도 ( progress ) 에 따른 음성 특징 벡터 ( 112 ) 들 에 기초 한 어텐션 ( attention ) 네트워크 를 이용 하 여 결정 될 수 있 다 . 디코더 ( 120 ) 가 출력 토큰 을 결정 할 때 각 단어 가 필요 한 정보 가 다르 기 때문 에 , 매 시점 에 동일 한 컨텍스트 벡터 를 이용 하 는 것 은 음성 인식 성능 을 저하 시킬 수 있 다 .