용어집 · 커리큘럼 맵 · 종합 퀴즈
AI 분야는 약어와 영어 용어의 숲이다. GEMM, GELU, BPE, GQA, MLA, RoPE, RMSNorm, KV 캐시, BF16, NVFP4, AWQ, HNSW, RRF, GRPO, MCP… 이 장은 책 전체의 학습 개념을 영역별로 정리한 커리큘럼 맵이자, 흩어진 핵심 용어를 한곳에 모은 사전이며, 머신러닝 기초에서 LLM 원리, 프롬프트·RAG·에이전트 시스템, 멀티모달, 실전 검증까지 전 범위를 점검하는 마무리 시험이다.
- 영역 A~G(ML 기초, 딥러닝·LLM 원리, 프롬프트, RAG, 에이전트 시스템, 실전 역량, 최신 기술)의 핵심 개념 120여 개를 커리큘럼 맵으로 점검하고, 각 개념을 다루는 절로 바로 이동할 수 있다.
- 한국어·영어·약어 어느 쪽으로든 용어를 찾아 정의와 해당 챕터로 바로 이동할 수 있다.
- 내적과 행렬곱에서 어텐션, LLM 학습·생성, 양자화, RAG, 추론 모델과 에이전트, 서빙 설계까지 각 장의 핵심 개념과 실제 수치를 스스로 점검한다.
- 틀린 문제의 챕터를 확인하고 약한 부분을 다시 공부할 계획을 세운다.
커리큘럼 맵: 영역별 핵심 개념
책 전체에서 다루는 학습 개념 150여 개를 일곱 영역으로 묶었다. 각 항목을 누르면 그 개념을 실제로 설명·계산·실습하는 절로 바로 간다. 별표는 우선순위다: ★★★ 핵심(반드시 설명·계산할 수 있어야 함), ★★ 중요, ★ 참고(심화·최신 동향, 시험 비중 낮음). 공부를 마친 개념은 체크해 두면 이 브라우저에 진도가 저장된다.
용어집
검색창에 한국어(예: 어텐션), 영어(예: residual), 약어(예: GQA) 중 아무것이나 입력하면 바로 걸러진다. 정의 본문도 검색 대상이다. 챕터 칩으로 범위를 좁히고, 가나다순 또는 챕터순으로 묶어 볼 수 있다. 정의에 적힌 수치는 해당 모델의 공개 자료 기준이며, 최신 하드웨어·모델 값은 '약'과 공개 연도로 표기했다. 2026년 기준으로 많이 쓰이는 하이브리드 어텐션, 세분화 MoE, FP4 형식, 추론 모델 학습(RLVR·GRPO), 에이전트 프로토콜(MCP) 용어도 함께 담았다.
종합 퀴즈
전 챕터에서 고른 여러 문항이다. 한 문제씩 풀고 나면 해설과 관련 챕터 링크가 나온다. 끝까지 풀면 챕터별 정답률 그래프와 “등급”을 보여 준다. 다시 풀기를 누르면 문제와 보기 순서가 섞인다. 계산 문제는 종이에 직접 셈해 보고 고르자.
마치며
- LLM의 연산은 결국 내적과 행렬곱이다. 임베딩은 의미를 벡터의 방향으로, 어텐션은 내적 점수를 소프트맥스로 바꾼 가중 평균으로, FFN은 행렬곱과 비선형 함수로 이루어진다.
- 학습은 교차 엔트로피 손실을 역전파와 Adam으로 낮추는 과정이고, 규모는 스케일링 법칙(C ≈ 6ND, Chinchilla 약 20 토큰/파라미터)이 안내한다. 생성은 로짓을 샘플링해 한 토큰씩 이어 붙이며, KV 캐시가 이를 빠르게 만든다.
- 실제 서비스는 메모리가 지배한다. 양자화(BF16 → FP8/INT4)는 가중치·KV 캐시를 줄이고, RAG는 모델 밖의 지식을 프롬프트로 가져오며, 루프라인 분석은 병목이 연산인지 대역폭인지 알려 준다.
- 2026년의 대형 모델은 같은 뼈대 위에서 메모리를 아끼는 방향으로 진화했다. 세분화 MoE로 활성 파라미터를 줄이고, MLA·하이브리드 선형 어텐션·희소 어텐션으로 KV 캐시를 줄이며, NVFP4·MXFP4로 비트를 줄인다. 그리고 RLVR·GRPO로 학습한 추론 모델이 도구를 호출하며 일하는 에이전트가 된다. 틀린 문제가 있던 챕터로 돌아가 시뮬레이터를 다시 만져 보자.
- 모델을 아는 것과 AI로 일을 잘하는 것은 다르다. 문제를 정의하고, 프롬프트·RAG·워크플로·에이전트 중 알맞은 도구를 고르고, 평가 세트로 측정하며, 결과와 출처를 검증하고, 개인정보와 보안을 지키는 습관이 실전 역량이다. 그 바탕에는 데이터 분할·누수·지표 같은 머신러닝의 기본기가 있다.