개발자

학습률, 왜 고정하면 안 되나

학습률이 크면 발산하고 작으면 느려요. 학습률을 줄여가는 스케줄이 일반적이에요. 초기엔 크게, 후반엔 작게 조절합니다.

  1. 01

    학습률이 크면 발산하고 작으면 느려요. 학습률을 줄여가는 스케줄이 일반적이에요. 초기엔 크게, 후반엔 작게 조절합니다.