00 — 핵심 용어집 (Glossary)
00 개요에서 다룬 핵심 개념을 한곳에 모은 빠른 참조용 노트다. 각 항목은 한국어 정의와 영어 기술용어, 출처를 함께 적는다.
상위 개념
Context Engineering (컨텍스트 엔지니어링) LLM이 다음 추론 단계에서 원하는 결과를 내도록, 컨텍스트 윈도우에 들어가는 토큰(시스템 프롬프트·도구·메모리·RAG·히스토리)을 추론 시점마다 동적으로 큐레이팅하고 최적화하는 규율. 프롬프트 엔지니어링이 한 단계 위로 진화한 형태로 볼 수 있다. Tobi Lütke(2025-06-19)와 Andrej Karpathy(2025-06-25)의 트윗을 계기로 널리 퍼졌다. → 00 개요
Context Window (컨텍스트 윈도우) LLM이 한 번의 추론에서 처리할 수 있는 최대 토큰 수의 범위. GPT-4.1과 Gemini 2.5는 1M 토큰까지 지원하지만, Chroma Research(2025)는 18개 모델 모두에서 길이가 늘수록 성능이 단조롭게 떨어지는 현상을 확인했다. → 00 개요
물리적 메커니즘
Attention Budget (어텐션 예산) LLM이 많은 컨텍스트를 처리할 때 쓰는 어텐션 용량을 예산에 빗댄 표현(Anthropic, 2025). 토큰이 늘어날수록 예산이 줄어들어 토큰 하나에 돌아가는 어텐션이 점점 옅어진다. → 00 개요
KV Cache (KV 캐시) Transformer의 자동회귀(autoregressive) 디코딩에서 이전 토큰의 Key-Value 어텐션 상태를 저장해 재계산을 피하는 메모리 구조. 컨텍스트 길이 × 레이어 수 × 헤드 수에 비례해 비선형으로 커진다. → Transformer 아키텍처와 KV 캐시
Lost in the Middle (중간 소실 효과) LLM이 컨텍스트 앞·끝에는 잘 주목하지만 중간 정보는 놓치는 U자형 성능 저하 패턴. Liu et al.(TACL 2024)이 다중문서 QA에서 확인했다. → Lost in the Middle — Liu et al. TACL 2024
5대 실패모드 (Failure Modes)
Context Poisoning (컨텍스트 오염) 환각이나 오류가 컨텍스트에 일단 들어가면 이후 추론의 전제로 거듭 참조되는 실패모드(Breunig, 2025). Gemini 2.5 Technical Report의 Pokémon 에이전트 목표 오염 사례가 대표적이다. → 01 오염
Context Distraction (컨텍스트 산만) 히스토리가 지나치게 길어진 나머지 모델이 훈련 지식 대신 컨텍스트 안의 반복 패턴에 매달리는 실패모드. Gemini 2.5에서 100K 토큰을 넘기면 나타났다. → 02 산만
Context Confusion (컨텍스트 혼란) 관련 없거나 불필요한 컨텍스트(과다한 도구 정의 등)가 모델을 엉뚱한 방향으로 끄는 실패모드. BFCL 벤치마크에서는 도구 수가 늘자 모든 모델의 성능이 떨어졌다. → 03 혼란
Context Clash (컨텍스트 충돌) 컨텍스트 안에 모순된 정보가 함께 놓여 추론이 무너지는 실패모드. Laban et al.(arXiv:2505.06120, 2025)은 멀티턴 샤딩에서 평균 39% 저하를 보고했다. → 04 충돌
Context Rot (컨텍스트 부패) 컨텍스트가 커질수록 성능이 고르지 않게 떨어지는 현상으로, 나머지 네 실패모드의 바탕에 깔린 구조다. Chroma Research(2025-07-14)가 18개 모델에서 F1이 단조 감소하는 것을 확인했다. → 05 부패
관리 전략 (LangChain 4버킷 + 기법)
Write / Select / Compress / Isolate (쓰기/선택/압축/격리) 에이전트 컨텍스트 관리의 표준 4전략(LangChain, 2025). → 00 개요, 06 해결전략
Compaction (컴팩션·압축) 컨텍스트 윈도우가 가득 차면 히스토리를 요약해 새 윈도우로 다시 시작하는 기법. Claude Code는 95%에 이르면 자동으로 실행한다. → 08 실전
Just-in-Time Context (적시 컨텍스트) 필요한 데이터를 미리 올려두지 않고, 런타임에 도구로 필요한 순간에 불러오는 전략. Claude Code의 glob/grep 파일 탐색이 대표적이다. → 08 실전
Sharding / Context Sharding (컨텍스트 샤딩) 한 프롬프트에 모든 정보를 몰아주지 않고 여러 라운드에 나눠 제공하는 패턴. Laban et al.(2025)은 이 패턴이 평균 39% 저하를 부른다는 점을 밝혔고, 충돌을 실험적으로 끌어내는 방아쇠가 된다. → 04 충돌