[ 0644 ] 대조 적 으로 , 일부 상황 들 에서 , 본원 에서 교시 되 는 바 와 같 은 , 딥 뉴 럴 네트워크 트레이닝 에 대한 연속 적 전파 ( 일 명 즉각 적 - 델타 ) 학습 규칙 의 사용 은 , 레이어 - 병렬 화 를 가능 하 게 함 으로써 , 더 빠른 컨버전스 를 제공 하 고 , 파라미터 업데이트 들 의 레이턴 시 를 감소 시키 고 , 동시 성 을 증가 시킨다 . 즉각 적 네트워크 파라미터 들 로부터 컴퓨팅 된 델타 들 은 현재 파라미터 기울기 에 대응 하 는 업데이트 된 정보 를 사용 한다 . 연속 적 전파 는 , 각각 의 레이어 가 , 명시 적 동기 화 없이 , 다른 레이어 들 과 동시 적 으로 학습 하 는 것 을 가능 하 게 함 으로써 , 레이어 병 렬화 를 가능 하 게 한다 . 결과 적 으로 , 네트워크 의 깊이 를 따르 는 병렬 화 는 트레이닝 에 더 많 은 컴퓨팅 자원 들 이 적용 되 는 것 을 가능 하 게 한다 . 일부 사용 시나리오 들 에서 , 연속 적 전파 에서 이용 가능 한 병렬 화 는 , MBGD 기법 들 과 비교 할 때 , 최대 10 x 벽시계 시간 개선 을 실현 한다 . 연속 적 전파 접근 법 은 또한 , 활성 화 들 의 다수 의 벡터 들 에 대한 모델 파라미터 값 들 을 저장 하 기 위해 여분 의 메모리 를 사용 하 는 것 을 방지 하 는 것 을 가능 하 게 한다 .