전체 콘텐츠5

오늘의 카드입문

왜 다음 단어 맞히기만으로 똑똑해질까

LLM은 '다음 단어가 뭘까'라는 단순한 게임을 수십억 번 반복해서 훈련됩니다. 정답 레이블을 따로 만들 필요 없이 텍스트 자체가 정답이 되는 자기 지도 학습이라, 인터넷 규모의 데이터를 그대로 훈련에 쓸 수 있는 것이 핵심입니다.

자세히 보기
오늘의 카드입문

숫자로 바뀐 단어, 임베딩

컴퓨터는 '고양이'라는 글자를 이해하지 못해도, [0.2, -1.3, 0.7...] 같은 숫자 벡터는 계산할 수 있습니다. 임베딩은 바로 이 변환을 담당하며, 훈련이 진행될수록 의미가 비슷한 단어의 벡터가 서로 가까워지도록 조정됩니다.

자세히 보기