쉽게 이해하기

2017년 논문 'Attention Is All You Need'에서 처음 제안된 구조로, 이전까지 널리 쓰이던 순환 신경망(RNN)과 달리 문장을 순서대로 하나씩 읽지 않고 전체를 동시에 참조합니다. 인코더(입력 이해)와 디코더(출력 생성) 두 부분으로 이뤄지며, 오늘날 GPT·BERT를 포함한 거의 모든 최신 LLM이 이 구조를 기반으로 합니다.