ReLU 는 sigmoid 가 back - propagation for training 에서 발생 시키 는 the vanishing gradient problem 를 보완 하 고 비 선형 활동 함수 ( non - linear activation function ) 보다 빠른 처리 속도 를 갖 는다 . 이러 한 이유 로 , ReLU 는 다른 활동 함수 ( activation function ) 에 비하 여 training 의 효율 이 우수 하 다 .