ReLU (Rectified Linear Unit) 함수는 0 이하의 값은 0으로, 0 초과의 값은 그대로 출력하는 함수이다. 가장 자주 사용하는 신경망 함수 중 하나이다.
R e L U ( x ) = m a x ( x , 0 ) {\displaystyle ReLU(x)=max(x,0)}
