3Blue1Brown 한국어판(2025-04) 8분 — ChatGPT는 '다음 단어 확률'을 계산하는 함수: 수천억 개 파라미터를 역전파로 조정하는 사전훈련(초당 10억 연산으로 1억 년치)에 사람 선호를 더하는 RLHF, 그 엔진은 단어 벡터끼리 문맥을 주고받는 트랜스포머의 어텐션
원제: LLM 설명 (요약버전)
업로드 후 16개월 경과됨
볼 가치ChatGPT가 어떻게 답을 만드는지 원리를 8분에 정확히 잡고 싶은 사람에게 이 회차 최선의 입문
7:54업로드 2025-04-24읽는 데 2분
- (00:02~01:27) LLM은 다음 단어를 하나로 확정하지 않고 확률 분포를 내며, 가끔 낮은 확률 단어를 뽑아 같은 질문에도 답이 달라진다
- (01:29~03:08) 학습 데이터는 GPT3 기준 사람이 2,600년 읽을 분량, 수백억~수천억 파라미터를 '마지막 단어 가리고 맞히기'로 역전파 조정
- (03:10~04:16) 초당 10억 연산 기계로 1억 년이 걸리는 사전훈련 뒤, 사람이 응답을 고쳐 주는 RLHF로 어시스턴트답게 조정
- (04:18~05:10) 2017년 구글 트랜스포머가 단어를 순차가 아닌 병렬 처리하게 만들었고, 단어는 의미를 담은 숫자 벡터로 변환
- (05:10~06:27) 어텐션이 '눈이 내린다'와 '보는 눈'을 문맥으로 구분하고, 피드포워드가 패턴을 저장, 여러 층을 거쳐 다음 단어 확률을 예측
- (06:29~06:56) 구조는 사람이 설계했지만 출력은 훈련된 파라미터가 정해 왜 그 단어인지 설명이 어렵다