상기 공유 디 코딩 레이어 를 학습 시키 는 단계 는 상기 공유 디 코딩 레이어 를 이용 하 여 , 적어도 하나 의 토큰 에 기초 하 여 상기 적어도 하나 의 토큰 이후 로 인식 되 는 출력 토큰 을 추정 하 는 단계 ; 및 상기 추정 된 출력 토큰 및 상기 샘플 에 포함 된 텍스트 의 적어도 일부 에 기초 하 여 , 상기 공유 디 코딩 레이어 를 학습 시키 는 단계 를 포함 할 수 있 다 .