컨텍스트 윈도우
모델이 한 번에 참조 가능한 범위
자세히 보기SEARCH THE WIKI
용어, 오늘의 카드, 검증된 프롬프트를 한 번에 찾아보세요.
전체 콘텐츠65개
모델이 한 번에 참조 가능한 범위
자세히 보기모델이 사실이 아닌 내용을 생성
자세히 보기대량의 텍스트로 훈련되어 사람의 언어를 이해·생성하는 신경망 모델
자세히 보기모델 입력을 설계하는 기술
자세히 보기모델의 기본 행동을 정의하는 지시문
자세히 보기텍스트를 쪼갠 최소 단위
자세히 보기텍스트를 모델이 다룰 수 있는 단위(토큰)로 쪼개는 전처리 과정
자세히 보기대형 언어 모델이 복잡한 문제를 해결할 때 단계별 추론 과정을 거치도록 유도하는 프롬프트 기법입니다.
자세히 보기너는 AI/LLM 강의의 출제자야. 아래 개념들을 바탕으로 객관식 문제 5개를 만들어줘. 각 문제는 보기 4개(정답 1개 포함)로 구성하고, 마지막에 정답과 함께 왜 다른 보기가 틀렸는지 한 줄씩 설명해줘. 개념 목록: {{예: 토큰화, BPE, 임베딩, 위치 인코딩}}
자세히 보기{{topic}}을(를) 5살 아이도 이해하게 설명해줘.
자세히 보기{{role}} 직군 면접 질문 5개를 난이도별로 만들어줘.
자세히 보기너는 AI를 처음 배우는 사람에게 어려운 개념을 쉬운 비유로 설명하는 선생님이야. 아래 개념을 중학생도 이해할 수 있게 일상적인 비유를 들어 3문단 이내로 설명해줘. 전문 용어를 쓸 때는 반드시 괄호 안에 원어를 병기해줘. 개념: {{설명할 개념, 예: 셀프 어텐션}}
자세히 보기다음 두서없는 회의록을 항목별로 정리해줘: {{notes}}
자세히 보기다음 문장을 격식체로 다시 써줘: {{text}}
자세히 보기다음 기사를 3문장으로 요약해줘: {{article}}
자세히 보기오늘의 카드: LLM 기본 개념을 익혀봅니다.
자세히 보기텍스트가 토큰으로 어떻게 쪼개지는지 살펴봅니다.
자세히 보기프롬프트 엔지니어링 기본 원칙.
자세히 보기LLM은 '다음 단어가 뭘까'라는 단순한 게임을 수십억 번 반복해서 훈련됩니다. 정답 레이블을 따로 만들 필요 없이 텍스트 자체가 정답이 되는 자기 지도 학습이라, 인터넷 규모의 데이터를 그대로 훈련에 쓸 수 있는 것이 핵심입니다.
자세히 보기컴퓨터는 '고양이'라는 글자를 이해하지 못해도, [0.2, -1.3, 0.7...] 같은 숫자 벡터는 계산할 수 있습니다. 임베딩은 바로 이 변환을 담당하며, 훈련이 진행될수록 의미가 비슷한 단어의 벡터가 서로 가까워지도록 조정됩니다.
자세히 보기복잡한 문제를 해결할 때 모델이 단계별 추론 과정을 거치도록 유도하는 기법입니다. 단계별로 차근차근 생각해보자 같은 문구를 사용해 중간 해석을 명시적으로 유도하면, 논리적 오류를 줄이고 복잡한 작업의 정확도를 크게 높일 수 있습니다.
자세히 보기모델이 한 번의 요청에서 다룰 수 있는 토큰의 범위가 정해져요. 범위를 넘으면 앞 내용이 버려집니다. 긴 대화와 문서 처리 설계의 출발점이 됩니다.
자세히 보기모델을 만들어 배포하고 지켜보는 전 과정을 자동화하는 실천이에요. 버전 관리, 재학습, 모니터링이 핵심이에요. 한 번의 학습이 아니라 흐름이 중요하게 됩니다.
자세히 보기대부분의 대규모 데이터는 영어에 치우져 있어요. 한국어 데이터는 상대적으로 적어요. 그래서 한국어 전용 모델을 만드는 연구가 진행됩니다.
자세히 보기같은 모델이라도 프롬프트에 따라 결과가 달라져요. 역할, 목표, 형식, 제약이 명확할수록 결과가 좋아집니다. 프롬프트 작성은 기술이 아니라 설계에요.
자세히 보기이미지를 특정 범주로 나누는 작업이에요. 합성곱 신경망이 이 영역을 지배했습니다. 이미지넷 데이터셋은 연구의 표준 무대가 되었죠.
자세히 보기과대 적합은 데이터를 너무 잘 외워서 새 데이터에 약해지는 상태예요. 반면 과소 적합은 데이터의 패턴을 제대로 배우지 못한 상태입니다. 두 상태 사이에서 균형점을 찾는 일이 모델 조율의 본질이에요.
자세히 보기모델의 출력을 확인해 손실을 계산하고, 손실이 줄어드는 방향으로 파라미터를 고칩니다. 이 과정을 반복하면 훈련 데이터의 패턴을 더 잘 예측하게 됩니다. 반복적인 최적화가 학습의 핵심이에요.
자세히 보기훈련 데이터로 배우고, 검증 데이터로 성능을 확인하며, 테스트 데이터로 최종 점검합니다. 테스트 데이터에 미리 섞이면 과대 적합 위험이 커집니다. 데이터 역할을 나누는 습관이 신뢰도를 좌우합니다.
자세히 보기모델은 버전을 가져요. 같은 입력도 결과가 달라질 수 있어요. 버전을 고정하고 갱신은 의도적으로 하세요. A/B 비교도 이 기반 위에서 가능합니다.
자세히 보기손실 함수는 예측이 답과 얼마나 다른지를 숫자로 줍니다. 손실이 작아지는 방향으로 모델이 조정됩니다. 과제를 바꾼다면 이 측정 방식도 바꾸는 게 맞아요.
자세히 보기지도 학습의 답지는 사람이 직접 만듭니다. 라벨의 품질이 모델의 상한을 정해요. 라벨링 기준은 명확하고 일관되어야 합니다.
자세히 보기1950년 튜링은 기계가 인간처럼 대화하면 기계라고 판별할 수 있는지를 물었습니다. 이 질문은 인공지능 연구의 출발점이 되었습니다. 오늘의 대규모 언어 모델은 그 질문에 가장 가깝게 다가간 사례입니다.
자세히 보기여러 모델의 결과를 합치면 개별 모델보다 견고해져요. 각 모델의 실수가 서로 상쇄됩니다. 경쟁 수상작에는 이런 합산 기법이 자주 들어있었죠.
자세히 보기얼굴과 목소리를 합성한 영상은 진짜처럼 보이게 만들 수 있어요. 2022년 이후 딥페이크는 뉴스 속보로 자주 등장했습니다. 영상과 음성 분석을 통해 감별할 수 있어요.
자세히 보기오픈 웨이트와 오픈 소스는 다릅니다. 상업적 이용 범위와 의무를 미리 확인해야 해요. 배포 전에 라이선스 검토가 필요합니다.
자세히 보기데이터가 불균형하면 정확도는 속임수를 쓸 수 있어요. 정확률과 재현율 같은 지표가 함께 보고되어야 결점이 드러나요. 지표 하나만 보면 좋은 모델처럼 보이는 경우가 대표적입니다.
자세히 보기기계 학습은 규칙을 직접 쓰기보다, 예시 데이터에서 패턴을 학습하는 방식입니다. 데이터가 좋아야 결과도 좋아지므로 데이터 준비가 중요해요. 운영 환경을 잘 대표하는 데이터인지 먼저 확인해야 합니다.
자세히 보기역할, 목표, 형식, 제약이 분명한 프롬프트가 나은 결과를 줍니다. '이렇게 해줘'보다 '이 형식으로, 이 범위로'가 나아요. 실력은 같은 모델에서 차이를 만듭니다.
자세히 보기가중치를 직접 받아볼 수 있으면 검증과 수정이 가능합니다. Llama 계열의 공개로 오픈 생태계가 커졌어요. 프라이버시와 비용 측면에서도 선택지가 됩니다.
자세히 보기데이터에 섞인 편향이 그대로 반영되기 때문입니다. 학습한 환경과 실제 운영 환경이 다를 수도 있어요. 결국 실수 원인을 추적하는 관측이 쌓이면 신뢰가 생깁니다.
자세히 보기단계별로 추론을 쓰게 하면 복잡한 과제의 정확도가 올라요. 2022년 공개된 기법은 대규모 언어 모델의 표준이 되었습니다. 단, 생각할 시간도 비용이에요.
자세히 보기처리하는 토큰 수에 따라 비용이 결정됩니다. 컨텍스트가 길어질수록 매번 비용이 커요. 캐싱과 양자화가 이 비용을 줄여요.
자세히 보기초층은 모서리나 색 같은 미세 신호를, 위층은 더 추상적인 패턴을 알아냅니다. 이 계층적 구조가 딥러닝의 핵심이에요. 깊이가 깊을수록 복잡한 표현을 만들 수 있습니다.
자세히 보기분류는 이산된 범주 중 하나를 고르는 일, 회귀는 숫자를 예측하는 일이에요. 모델의 마지막 구조가 과제를 반영합니다. 같은 데이터라도 목적에 따라 설계가 달라지죠.
자세히 보기여러 개의 결정 트리를 만들어 투표로 결론을 냅니다. 개별 트리보다 견고하고 과대 적합이 적어요. 고전적이지만 여전히 쓰이는 방법이에요.
자세히 보기한국 정부는 한국어 데이터를 활용해 자체 모델을 키워 왔어요. 초거대 한국어 오픈 소스 모델이 이 프로젝트의 결과물입니다. 언어는 모델 품질에서 결정적이라는 걸 보여줍니다.
자세히 보기매개변수에 벌을 두거나 데이터를 떨어뜨리는 등 여러 기법이 있습니다. 모든 기법은 '모델이 데이터를 외우는' 걸 막는 게 목적인데요. 데이터가 적을수록 이 기법의 효과가 큽니다.
자세히 보기자신만의 질문과 기준답 모음이 있어요. 모델을 바꿀 때마다 이 세트에서 비교하는 것이 원칙이에요. 이 평가 없이는 어떤 모델이 좋은지 모릅니다.
자세히 보기파라미터는 모델이 학습 과정에서 스스로 조정하는 숫자입니다. 규모가 커질수록 표현력이 커지지만 메모리와 연산도 함께 커져요. 대규모 언어 모델은 파라미터 수십억에서 수천억 규모입니다.
자세히 보기모델은 확률적으로 다음 토큰을 생성합니다. 근거 없는 단어도 확률이 있으면 생성돼요. 출처 확인과 검증 단계가 필수입니다.
자세히 보기모델은 확률 분포를 만드는 기계예요. '다음에 무엇이 올지'에 대한 확률을 계산합니다. 이 확률을 쌓아가는 과정에서 답이 만들어집니다.
자세히 보기자신을 부르고 다시 확인하는 루프를 돌리는 구조예요. 2023년부터 에이전트라는 말이 일반화되었습니다. 도구의 품질이 에이전트의 품질을 정해요.
자세히 보기모델은 학습 데이터의 편향을 이어받을 가능성이 있습니다. 나이, 성별, 언어의 편재가 결과에 스며들 수 있어요. 공정성 점검은 결과뿐 아니라 데이터부터 해야 합니다.
자세히 보기사용자가 보지 않는 시스템 메시지가 답의 기본 방향을 정해요. 여기서 정확하고 간결하게라 쓰면 모든 응답에 영향을 줘요. 앱의 성격을 담는 자리입니다.
자세히 보기특성 수가 많으면 연산이 비싸지고 노이즈가 섞여요. 주성분 분석 같은 방법으로 차원을 줄입니다. 핵심 정보를 유지하면서 계산 부담을 줄이는 일이에요.
자세히 보기모든 토큰을 다 쓰지 않고 상위 확률만 고르는 기법이에요. Top-K, Top-P가 대표적이에요. 무작위성을 줄이고 품질을 높이는 데 쓰입니다.
자세히 보기데이터 클래스를 나누는 가장 넓은 경계를 찾습니다. 차원이 높아도 동작하도록 수학적 기반이 단단해요. 딥러닝 이전 시대의 대표 모델이었죠.
자세히 보기출력을 JSON처럼 받아 처리하면 파싱이 쉬워요. 스키마를 프롬프트에 명시하면 준수도가 올라요. 에러 처리는 여전히 필요합니다.
자세히 보기전체 생성을 기다리면 체감 속도가 느려요. 토큰이 만들어지는 대로 보여주는 방식이 체감을 크게 개선합니다. 사용자는 생성 중 수정도 할 수 있어요.
자세히 보기오늘의 인공지능은 대부분 특정 과제에 특화된 '좁은 인공지능'입니다. 쉽게 말하면, 번역만 잘하거나 체스만 잘하는 시스템이 모두 해당합니다. 일반적인 지능을 가진 '범용 인공지능'은 아직 연구 단계입니다.
자세히 보기모든 과제가 큰 모델을 필요로 하진 않아요. 작은 모델이 빠르고 저렴하며 사적이에요. 과제에 맞는 규모의 선택이 실력이에요.
자세히 보기근거 없는 사실을 단정적으로 말할 수 있어요. 확률적 생성의 본질적 특성에요. 출처 연결과 검증 단계가 대표적 방어선입니다.
자세히 보기모델도 코드처럼 버전이 있어요. 모델 ID를 고정하고 갱신은 의도적으로 해야 해요. A/B 비교도 이 기반 위에서 가능합니다.
자세히 보기1956년 다트머스 여름 연구 프로젝트에서 '인공지능'이라는 이름이 연구 분야의 이름으로 자리 잡았습니다. 존 매카시가 제안하고 여러 연구자가 기계 지능의 가능성을 논의했어요. 이 행사는 인공지능 연구사의 중요한 출발점으로 꼽힙니다.
자세히 보기