쉽게 이해하기
GPT는 오직 '다음 단어 맞히기'만으로 훈련되지만, 모델과 데이터 규모가 커지면서 번역·요약처럼 별도로 가르치지 않은 작업까지 수행하는 경우가 있습니다. 이런 능력은 훈련 목표에서 직접 학습된 것이 아니라 다양한 맥락에 대량으로 노출된 결과로 자연스럽게 나타난다고 설명됩니다.
명시적으로 훈련받지 않았는데도 모델 규모가 커지면서 저절로 나타나는 능력
GPT는 오직 '다음 단어 맞히기'만으로 훈련되지만, 모델과 데이터 규모가 커지면서 번역·요약처럼 별도로 가르치지 않은 작업까지 수행하는 경우가 있습니다. 이런 능력은 훈련 목표에서 직접 학습된 것이 아니라 다양한 맥락에 대량으로 노출된 결과로 자연스럽게 나타난다고 설명됩니다.