언어 모델 ( 655 ) 은 여러 방식 으로 출력 텍스트 시퀀스 를 구성 할 수 있 다 . 한 경우 에 , 출력 텍스트 시퀀스 는 일련 의 시간 스텝 에 걸쳐서 리 커런트 신경망 의 출력 을 취함 으로써 구성 될 수 있 다 . 예 를 들 어 , 시각 적 특징 텐서 ( 640 ) 및 오디오 특징 텐서 ( 645 ) 는 복수 의 시간 샘플 ( 예 를 들 어 , 입력 프레임 또는 fHz 의 데이터 레이트 - 이 는 비디오 의 경우 30 Hz 또는 60 Hz 일 수 있 고 오디오 의 경우 그 이상 일 수 있 다 ) 에 대해 생성 될 수 있 다 . 시각 적 특징 텐서 ( 640 ) 및 오디오 특징 텐서 ( 645 ) 가 상이 한 레이트 로 생성 되 면 , 느린 레이트 로 변화 하 는 텐서 는 일정 하 게 유지 될 수 있 으며 다른 텐서 에 대해서 는 변경 하 는 값 이 입력 된다 . 한 경우 에 , 하나 의 시각 적 특징 텐서 ( 640 ) 및 복수 의 시간 단계 각각 에 걸쳐서 생성 되 는 복수 의 오디오 특징 텐서 ( 645 ) 가 존재 할 수 있 다 . 한 경우 에 , 시각 적 특징 텐서 ( 640 ) 는 제로 값 벡터 및 / 또는 제 어 코드 를 제공 함 으로써 생략 될 수 있 다 . 시각 적 특징 텐서 ( 640 ) 가 존재 하 지 않 는 것 을 맞춤하 는 것 은 , 트레이닝 데이터 내 에서 특정 이미지 입력 ( 또는 시각 적 특징 텐서 입력 ) 을 0 으로 설정 함 으로써 트레이닝 될 수 있 다 . 다른 경우 에 , 시각 적 특징 텐서 ( 640 ) 및 오디오 특징 텐서 ( 645 ) 는 연쇄 되 어서 , 리 커런트 신경망 의 초기 히든 상태 를 설정 하 는 데 사용 될 수 있 다 . 이 경우 , 제 1 입력 은 < START > 제어 심볼 을 포함 할 수 있 고 , 제 1 출력 심볼 은 제 2 입력 으로서 사용 되 도록 피드백 될 수 있 으며 , 이 프로세스 는 < END > 제어 심볼 이 출력 될 때 까지 반복 된다 . 이 경우 , 리 커런트 신경망 은 입력 으로서 심볼 ( 예 를 들 어 , 문자 또는 단어 ) 을 수신 하 도록 구성 된다 . 이 경우 , 심볼 은 초기 에 숫자 표현 으로 매핑 되 고 , 이후 , 리 커런트 신경망 에 제공 되 기 전 에 심볼 임 베 딩 에 추가 로 매핑 될 수 있 다 . 예 를 들 어 , 이용 가능 한 데이터 의 형태 , 사용 되 는 아키텍처 의 형태 , 데이터 의 시간 적 이용 가능 성 , 출력 의 형태 , 리 커런트 신경망 의 정확도 , 전형 적 인 발언 의 길이 등 에 따라 다양 한 변형 예 가 제공 될 수 있 다 .