쉽게 이해하기

층이 아주 깊어지면 역전파 과정에서 기울기(gradient)가 점점 작아져 앞쪽 층이 거의 학습되지 않는 문제가 생깁니다. 숏컷(잔차) 연결은 층을 건너뛰는 지름길을 하나 더 만들어 입력을 출력에 더해줌으로써 기울기가 잘 전달되도록 돕고, 이 덕분에 트랜스포머처럼 아주 깊은 모델도 안정적으로 훈련할 수 있습니다.