컨텍스트 엔지니어링 실패모드 위키

'Less is More' — 컨텍스트 혼란 해결 전략 7가지

9 min read

상위: 03_00_MOC

”Less is More” — 컨텍스트 혼란 해결 전략 7가지

원칙 — 더 큰 창문이 아니라 더 깨끗한 창문

GPT-4.1(1M 컨텍스트), Gemini 2.5(2M 컨텍스트)처럼 컨텍스트 윈도우는 꾸준히 커지고 있다. 그러나 Chroma Research(2025)는 200K 모델이 이미 50K 지점에서 심각한 성능 저하를 보인다는 사실을 확인했다. 창을 넓히는 것만으로는 SNR(Signal-to-Noise Ratio) 문제가 풀리지 않는다.

더 큰 창이 아니라 더 깨끗한 창이 필요하다.

전략 1 — RAG-MCP (동적 툴 검색)

개념: LLM에 툴 목록을 보여주기 전에, 쿼리 임베딩으로 관련 툴을 벡터 검색해 3~7개만 컨텍스트에 전달한다.

효과: 툴 선택 정확도가 13.62%에서 43.13%로 3.17배 오르고 토큰은 50% 넘게 줄었다(Gan & Sun, 2025).

주의할 점도 있다. 검색기가 엉뚱한 툴을 반환하면 작업 전체가 무너질 수 있으므로 폴백(fallback) 메커니즘이 반드시 따라와야 한다. → 03_05-paper-rag-mcp

flowchart LR
    Q[쿼리] --> E[임베딩]
    E --> V[벡터 DB 검색]
    V --> T["Top-K 툴 (3-7개)"]
    T --> L[LLM]
    style V fill:#3498db,color:#fff
    style T fill:#2ecc71,color:#fff

전략 2 — CMTF (인과적 최소 툴 필터링)

개념: 의미적 관련성이 아니라 지금 상태에서 인과적으로 필요한 툴만 노출한다. 사전조건-효과 계약(precondition-effect contracts)을 기반으로 한다.

효과: 후보 100개를 스텝당 평균 1개로 좁히고 토큰을 약 90% 줄이면서도 성공률은 그대로 유지했다(Babu & Iyer, 2026).

핵심은 관련성(Relevance)과 필요성(Necessity)이 같지 않다는 명제다. → 03_06-paper-cmtf-bor

전략 3 — BoR 적응형 툴 깊이 (RL 기반)

개념: 툴 수를 고정하지 않고 쿼리마다 최적 개수를 강화학습(RL) 정책으로 정한다. 평가는 BoR(Bits-over-Random) 지표로 공정하게 한다.

효과: 370개 툴 가운데 평균 7개만으로 90.3% 커버리지를 달성했다. 50개를 제시했을 때의 90.8%와 사실상 동등한 수준이다(Repantis et al., 2026). → 03_06-paper-cmtf-bor

전략 4 — 컨텍스트 트리밍 (프루닝 + 요약)

개념: 에이전트가 오래 돌아가는 동안 쌓이는 낡은 툴 호출 결과와 대화 이력을 프루닝(삭제)과 요약(압축)으로 관리한다.

효과: 완료율은 20.6%p 오르고 토큰은 63%, 실행 시간은 60% 줄었다(Lodha et al., 2026). → 03_07-paper-less-context-better-agents

Anthropic은 Context Editing과 Memory Tool을 함께 쓰면 성능이 39% 오르고 토큰을 84% 아낄 수 있다고 밝혔다. → 08 실전

전략 5 — 서브에이전트 격리 (Subagent Isolation)

개념: 서브에이전트마다 격리된 컨텍스트 윈도우에서 전문화된 툴 세트만 들고 있게 한다. 메인 에이전트는 툴을 갖지 않고 오케스트레이션만 맡는다.

효과: 한 에이전트의 혼란이 다른 하위 에이전트로 번지지 않는다. EclipseSource(2026)는 서브에이전트 분리를 MCP 과부하의 구조적 해법으로 꼽았다.

graph TD
    O[오케스트레이터<br/>툴 없음] --> B[브라우저 에이전트<br/>Playwright 3툴]
    O --> G[깃허브 에이전트<br/>GitHub 5툴]
    O --> D[데이터 에이전트<br/>DB 4툴]
    style O fill:#3498db,color:#fff
    style B fill:#2ecc71,color:#fff
    style G fill:#2ecc71,color:#fff
    style D fill:#2ecc71,color:#fff

→ 06 해결전략

전략 6 — 툴 설명 품질 최적화

개념: 툴 수를 줄이는 대신 기존 설명을 에이전트에 맞게 다시 쓴다. Trace-Free+ 커리큘럼 학습으로 사람을 위해 쓰인 API 문서를 자동 변환한다(Guo et al., arXiv:2602.20426, Intuit AI Research, 2026).

효과: 툴이 150개 이상으로 늘어날 때 정확도 저하가 29.23% 줄고, 쿼리 단위 평균 성공률은 60.89% 올랐다.

여기서 짚을 점은 컨텍스트 혼란이 양(quantity)만의 문제가 아니라 질(quality)의 문제이기도 하다는 것이다. 양을 줄이는 일과 질을 높이는 일은 서로를 보완한다.

전략 7 — 툴 환각 실시간 탐지

개념: 혼란이 이미 일어난 뒤를 막는 방어선이다. 단일 포워드 패스에서 모델의 내부 표현(internal representations)을 분석해 툴 선택 오류를 실시간으로 잡아낸다(Healy et al., arXiv:2601.05214, 2026).

효과: 탐지 정확도 86.4%. 파라미터 수준 환각과 툴 바이패스를 잡는 데 특히 강하다.

위치: 예방책에 해당하는 전략 1~6이 모두 실패했을 때의 마지막 방어선(last line of defense)이다.

전략 선택 가이드

flowchart TD
    S[컨텍스트 혼란 발생?] --> A{툴 수가 문제?}
    A -->|예, 정적| B[RAG-MCP 또는 CMTF 적용]
    A -->|예, 동적 최적화 필요| C[BoR 적응형 정책]
    A -->|아니오, 이력 과다| D[프루닝 + 요약]
    A -->|아니오, 설명 품질 문제| E[툴 설명 재작성]
    A -->|아키텍처 수준| F[서브에이전트 분리]
    B & C & D & E & F --> G{여전히 환각 발생?}
    G -->|예| H[실시간 환각 탐지 레이어 추가]
    G -->|아니오| I[완료]
    style H fill:#e74c3c,color:#fff
    style I fill:#2ecc71,color:#fff

전략 비교 요약

전략토큰 절감정확도 향상구현 난이도적합 상황
RAG-MCP50%+3.17배중 (벡터 DB 필요)툴 수 많을 때
CMTF~90%동등 유지중 (계약 정의)상태 전환 명확한 워크플로우
BoR 적응형~86%+6~16%p고 (RL 필요)툴 수 최적화 연구/대규모 배포
트리밍+요약63%+20.6%p낮 (즉시 적용 가능)장기 에이전트 실행
서브에이전트구조적 격리질적 향상중 (아키텍처 재설계)멀티 도메인 에이전트
설명 재작성없음+29~61%중 (커리큘럼 학습)기존 툴 재활용 시
환각 탐지없음86.4% 탐지고 (모델 내부 접근)방어선 레이어

참고문헌

형제 노트: 03_05-paper-rag-mcp · 03_06-paper-cmtf-bor · 03_07-paper-less-context-better-agents · 03_09-교육현장-AX-활용 타 챕터: 06 해결전략 · 08 실전

그래프 뷰

백링크