쉽게 이해하기
매 순간 가능한 모든 단어 중에서 고르면 터무니없는 단어가 뽑힐 위험이 있습니다. Top-k 샘플링은 확률 순위 상위 k개로 후보를 좁힌 뒤 그 안에서만 확률적으로 선택해, 온도 스케일링과 함께 자연스러우면서도 다양한 텍스트 생성을 돕습니다.
확률이 가장 높은 k개의 후보 안에서만 다음 단어를 무작위로 고르는 방법
매 순간 가능한 모든 단어 중에서 고르면 터무니없는 단어가 뽑힐 위험이 있습니다. Top-k 샘플링은 확률 순위 상위 k개로 후보를 좁힌 뒤 그 안에서만 확률적으로 선택해, 온도 스케일링과 함께 자연스러우면서도 다양한 텍스트 생성을 돕습니다.