어텐션 네트워크 를 이용 하 면 , 디코더 ( 120 ) 가 출력 토큰 ti 를 결정 할 때 에 인코더 ( 110 ) 의 히든 스테이트 벡터 ( hidden state vector ) h 1 , h 2 , ... , hn 의 조합 으로 ti 마다 다른 컨텍스트 벡터 ( 113 ) 를 이용 할 수 있 다 . 디코더 ( 120 ) 가 출력 토큰 ti 를 결정 할 때 에 인코더 ( 110 ) 의 히든 스테이트 벡터 ( hidden state vector ) hj 를 얼마나 이용 할지 를 어텐션 가중치 aij 로 정의 할 수 있 고 , 출력 토큰 ti 의 컨텍스트 벡터 ( 113 ) 는 ∑ aijhj 로 정의 될 수 있 다 .