상위: 07_00_MOC
근본원인 — 컨텍스트 슬롯에 권위·출처 메타데이터가 없다
07_01-문제정의-룰침범과-기준재정의에서 다룬 룰 침범과 기준 재정의는 겉보기엔 다른 현상이지만 하나의 근본 원인에서 나온다. 컨텍스트의 모든 슬롯이 권위(authority)·출처(provenance)·불변성(immutability) 메타데이터 없이 평평하게 놓여 있다는 점이다.
1. LLM은 토큰의 출처를 구별하지 않는다
트랜스포머의 어텐션은 컨텍스트 윈도우 안의 모든 토큰을 출처와 무관하게 동등한 평면 위에서 가중한다. 시스템이 부여한 불변 헌법, 신뢰할 만한 검증 결과, 워커가 방금 지어낸 가정, 웹에서 긁어온 공격 문자열. 이 네 가지가 모델에게는 그저 같은 토큰열일 뿐이다. “이 문장은 배제 불가능한 조직 정책이다”, “이 문장은 trust 0 외부 입력이다”라는 라벨이 컨텍스트 안에 구조적으로 존재하지 않는다.
이 평면성이 두 실패의 공통 뿌리다.
- 룰 침범: 워커 A의 가정과 워커 B의 가정 사이에 우열이나 권위가 없으니, 둘이 충돌해도 무엇이 옳은지 판정할 메타데이터가 없다.
- 기준 재정의: 초기 canonical 규칙과 100턴 뒤 후속 명령 사이에 “이건 불변, 저건 가변”이라는 표시가 없으니, 최근성(recency) 편향이 오래된 규칙을 덮어쓴다.
Claude Code 공식 문서도 이 평면성을 그대로 인정한다. CLAUDE.md조차 시스템 프롬프트가 아니라 사용자 메시지로 전달되며, 강제력이 없다.
“Claude treats them as context, not enforced configuration. To block an action regardless of what Claude decides, use a PreToolUse hook instead.” — Anthropic(2025)
“If two rules contradict each other, Claude may pick one arbitrarily.” — Anthropic(2025)
두 규칙이 모순되면 임의로 하나를 고른다. 이것이 권위 메타데이터 부재의 직접적 증상이다. 모델에게는 둘 중 무엇이 더 높은 권위인지 판단할 근거가 컨텍스트 안에 없다.
2. 세 가지 빠진 메타데이터
오염을 막으려면 각 슬롯에 최소한 세 가지가 붙어야 한다.
| 메타데이터 | 질문 | 없을 때의 실패 |
|---|---|---|
| authority(권위) | 누가 이 규칙을 정할 자격이 있는가? | 워커가 오케스트레이터 규칙을 덮어씀(룰 침범) |
| provenance(출처·내력) | 이 내용은 어디서 왔고 어떤 변형을 거쳤는가? | 압축 요약의 오류가 ground truth로 고착 |
| immutability/expiry(불변성·만료) | 이 규칙은 언제까지 유효하고 누가 바꿀 수 있는가? | 휘발 가설이 영구 규칙처럼 잔존(기준 재정의) |
이 세 축은 곧 07_08-처방-컨텍스트는-슬롯계약-4계층-모델의 슬롯 계약 필드 {authority, provenance, immutable, expiry, trust} 로 직결된다.
graph TD FLAT["평면 컨텍스트<br/>(모든 토큰 동등 취급)"] --> P1["출처 없음<br/>→ 압축 오류 고착"] FLAT --> P2["권위 없음<br/>→ 워커가 시스템 규칙 침범"] FLAT --> P3["만료 없음<br/>→ 휘발 가설이 영구 규칙화"] P1 & P2 & P3 --> ROOT["근본 원인:<br/>슬롯 권위 메타데이터 부재"] ROOT --> FIX["처방: 컨텍스트 = 슬롯 계약<br/>각 슬롯에 authority/provenance/expiry 부여"] style FLAT fill:#888888,color:#fff style ROOT fill:#FF4444,color:#fff style FIX fill:#44AA44,color:#fff
3. 실증 — 권위 없는 평면은 규모에서 붕괴한다
권위 메타데이터 부재가 추상적 위험에 그치지 않는다는 점을 DACS 연구(Patel, 2026)가 정량적으로 보여준다. 컨텍스트 오염(context pollution), 곧 “한 에이전트의 스티어링이 다른 에이전트의 무관한 컨텍스트로 오염되는 현상”은 평면 오케스트레이터에서 에이전트 수가 늘수록 급격히 악화된다.
“Steering accuracy collapses from 60% at N=3 to 21% at N=10 in a flat-context orchestrator.” — Patel(2026)
실험 상태 주의 — DACS(Patel, 2026)는 단일저자·비심사 프리프린트로, 아직 독립 재현이 확인되지 않았다. 아래 수치는 확정된 사실이라기보다 방향성 신호(directional signal)로 읽는 편이 안전하다.
평면 베이스라인의 스티어링 정확도는 21~60% 범위로, N이 커질수록 떨어진다. 반면 컨텍스트를 권위별로 구획(레지스트리/포커스 모드)하면 90~98%까지 회복된다(07_03-공유-vs-격리-컨텍스트-트레이드오프). “슬롯에 권위를 부여한다”는 추상 원리가 수치로 드러나는 셈이다.
프로베넌스 역설(Prakash, 2026)은 같은 원리가 라우팅에서 나타난 형태다. 출처 검증 없이 에이전트의 자기보고에만 기대면 라우터는 체계적으로 최악의 에이전트를 골라낸다. 무작위 선택보다도 못한 결과다(07_06-provenance와-신뢰등급-프로베넌스-역설). 출처 메타데이터의 부재는 단순한 무질서가 아니라 역선택(adverse selection) 을 낳는다.
4. 함의 — 처방은 모델이 아니라 컨텍스트 구조에 있다
근본 원인이 “모델이 출처를 구별하지 못한다”는 데 있으므로, 처방은 모델을 키우는 쪽이 아니라 컨텍스트 구조에 권위를 새겨 넣는 쪽이다. 이것이 이 챕터 전체를 관통하는 논리 축이다.
- 불변 규칙은 텍스트가 아니라 집행 계층(Hook/Managed Policy)으로 고정한다 → 07_04-불변규칙-쓰기보호-CLAUDE-AGENTS-Constitutional
- 출처는 검증된 신원(Attested Identity)으로 증명한다 → 07_06-provenance와-신뢰등급-프로베넌스-역설
- 충돌은 Policy-Authority-Temporal 우선순위로 해소한다 → 07_07-충돌해소와-합의-안전성-비합성성
- 이 모든 것을 슬롯 계약으로 통합한다 → 07_08-처방-컨텍스트는-슬롯계약-4계층-모델
참고문헌
- Claude Code Memory — CLAUDE.md and Auto Memory — Anthropic, 2025, 공식 문서.
- Dynamic Attentional Context Scoping (DACS) for Multi-Agent LLM Orchestration — Nickson Patel, 2026, arXiv.
- The Provenance Paradox in Multi-Agent LLM Routing: Delegation Contracts and Attested Identity in LDP — Sunil Prakash, 2026, arXiv.