뉴 럴 네트워크 의 학습 에서 일반 적 으로 학습 데이터 는 실제 데이터 ( 즉 , 학습 된 뉴 럴 네트워크 를 이용 하 여 처리 하 고자 하 는 데이터 ) 의 부분집합 일 수 있 으며 , 따라서 , 학습 데이터 에 대한 오류 는 감소 하나 실제 데이터 에 대해서 는 오류 가 증가 하 는 학습 사이클 이 존재 할 수 있 다 . 과 적 합 ( overfitting ) 은 이 와 같이 학습 데이터 에 과하 게 학습 하 여 실제 데이터 에 대한 오류 가 증가 하 는 현상 이 다 . 예 를 들 어 , 노란색 고양이 를 보여 고양이 를 학습 한 뉴 럴 네트워크 가 노란색 이외 의 고양이 를 보 고 는 고양이 임 을 인식 하 지 못하 는 현상 이 과 적 합의 일종 일 수 있 다 . 과 적 합 은 머신 러닝 알고리즘 의 오류 를 증가 시키 는 원인 으로 작용 할 수 있 다 . 이러 한 과 적 합 을 막 기 위하 여 다양 한 최적화 방법 이 사용 될 수 있 다 . 과 적 합 을 막 기 위해서 는 학습 데이터 를 증가 시키 거나 , 레 귤라 이제이 션 ( regularization ) , 학습 의 과정 에서 네트워크 의 노드 일부 를 생략 하 는 드롭아웃 ( dropout ) 등 의 방법 이 적용 될 수 있 다 .