컨텍스트 엔지니어링 실패모드 위키

비교·감별 — 오염(Poisoning) vs 부패(Rot)

13 min read

볼트 홈: README

비교·감별 — 오염(Poisoning) vs 부패(Rot)

한 줄 정의

오염(Poisoning)은 특정 거짓 정보가 원인인 내용(WHAT)의 문제이고, 부패(Rot)는 입력 길이 자체가 원인인 양(HOW MUCH)의 문제다. 둘 다 시간이 갈수록, 맥락이 쌓일수록 나빠지는 것처럼 보여 시간축에서 혼동하기 쉽다. 하지만 오염은 틀린 정보 한 건만 있으면 발생하고, 부패는 내용이 완벽히 무해해도 토큰이 많기만 하면 발생한다.

왜 중요한가

오염과 부패는 둘 다 장기 실행·멀티턴 환경에서 성능이 점점 떨어지는 현상이라 시간축에서 헷갈린다. “에이전트가 오래 돌수록 망가진다”는 똑같은 증상이 나타나니, 실무자는 “컨텍스트가 오염됐나”와 “컨텍스트가 너무 길어 부패했나”를 자주 구분하지 못한다. 그러나 부패 분류표가 못 박듯, 부패의 원인 변수는 길이 그 자체다. 내용이 완벽하게 무해하고 검색이 완벽하며 비관련 토큰을 전부 마스킹해도 저하는 이어진다(Du et al. 2025). 이 사실을 놓치면 오염 처방(필터링·정화)을 부패에 잘못 적용하고, “관련 정보만 남겼는데 왜 여전히 틀리지”라는 벽에 부딪힌다. 두 축을 가르는 일이 곧 처방을 가른다.

1. 헷갈리는 이유 — 시간축 혼동

부패의 4대 실패모드 분류는 실패의 원인 변수로 축을 나눈다.

  • 오염 = 내용 — 외부 주입(content/quality) 축
  • 부패 = 길이(length) 축

표면 증상이 겹치는 지점은 “누적될수록 악화”다.

  • 오염은 자기강화 루프 때문에 사이클이 쌓일수록 강화된다(시간 의존).
  • 부패는 토큰이 쌓일수록 비균질하게 저하된다(길이 의존).

멀티턴 에이전트에서는 시간이 갈수록 컨텍스트도 길어지므로 시간 경과와 길이 증가가 함께 일어난다. 그래서 둘이 한 덩어리로 보인다. 변별의 핵심은 악화를 일으킨 변수가 틀린 내용인지 늘어난 양인지를 가려내는 데 있다.

flowchart TD
    A["증상: 오래 돌수록 망가짐"] --> Q{"원인 변수는?"}
    Q -->|"틀린 정보 1건"| P["오염<br/>내용 문제<br/>내용 무해하면 발생 안 함"]
    Q -->|"늘어난 토큰 수"| R["부패<br/>양 문제<br/>내용 무해해도 발생"]
    P --> P2["자기강화 → 임계 후 고착"]
    R --> R2["길이 ↑ → 단조·비균질 하락"]
    style P fill:#e74c3c,color:#fff
    style R fill:#16a085,color:#fff

2. 결정적 구분 질문

  1. 컨텍스트에 “틀린 정보”가 실제로 박혀 있는가?

    • 있다 → 오염. 그 거짓이 반복 참조되며 추론을 왜곡한다.
    • 없다, 모든 정보가 사실이고 관련 있는데도 저하된다 → 부패.

  2. 비관련·거짓 토큰을 전부 제거하면 정상화되는가? (사고 실험)

    • 그렇다 → 오염. 내용을 제거하면 풀린다.
    • 여전히 저하된다 → 부패. 완전 마스킹과 완벽 검색에도 부패는 남는다(Du et al. 2025, 13.9~85% 저하).

  3. 저하 곡선의 모양은?

    • 특정 거짓이 박힌 뒤 임계처럼 고착되어 빠져나오지 못한다 → 오염(고착·자기강화).
    • 토큰이 늘수록 완만하고 비균질하게 단조 하락한다 → 부패.

한 문장 직관

부패는 길이만으로도 썩는다. 검색이 완벽해도, 비관련 토큰을 전부 마스킹해도, 내용이 100% 무해해도, 토큰이 많기만 하면 성능은 떨어진다. 오염은 틀린 한 건이 있어야만 발생한다.

3. 나란히 비교표

변별 축오염 (Poisoning)부패 (Rot)
원인 변수내용 — 특정 거짓·악의 정보 1건길이 — 입력 토큰 수 자체
내용 의존성높음 — 내용이 무해하면 발생 안 함없음 — 내용 무해해도 발생
되돌릴 수 있나오염원 제거·리셋으로 가능하나 “very long time to undo”컨텍스트를 줄이면 즉시 완화(구조적으로 가역)
곡선 모양임계·고착형(자기강화로 굳음)단조·비균질 하락(길이 ↑마다)
완전 마스킹 후해결됨 (내용을 없애면 사라짐)지속됨 (Du et al. 2025)
완벽 검색 시무관 — 애초에 내용이 문제지속됨 — 검색이 완벽해도 길이가 저하 유발
탐지출처 추적 부재로 어려움(컨텍스트 역추적)길이-성능 곡선 측정으로 진단 가능
처방오염원 격리·제거, 메모리 위생컨텍스트 최소화, 검색-추론 분리, focused 입력

핵심 비대칭은 이렇다. 오염은 “무엇이 들어있나”를 고쳐야 풀리고, 부패는 “얼마나 들어있나”를 줄여야 풀린다. 오염 처방(필터링·정화)으로는 부패를 고칠 수 없다. 완벽히 관련 있는 내용만 남겨도 길면 부패하기 때문이다(05_02-분류-다른-실패모드와의-관계 8.1절).

4. “부패는 길이만으로도 썩는다” — 가장 강조할 변별점

부패를 오염과 가르는 결정적 증거는 통제 실험에 있다(부패 분류표 6절, Du et al. 2025).

  1. 공백 대체(whitespace replacement): 비관련 토큰을 의미 없는 공백으로 바꿔 “내용의 질”을 무해화한다. 곧 오염 요인을 제거하는 셈이다. 그래도 길이가 길면 저하가 이어진다.
  2. 완전 마스킹(full masking): 비관련 토큰을 마스킹해 모델이 관련 토큰에만 어텐션하도록 강제한다. 오염과 충돌을 사실상 둘 다 제거하고 위치 편향까지 최소화한 조건이다. 그래도 저하가 이어진다.
  3. 완벽한 검색(perfect retrieval) 조건에서 출발했음에도 13.9~85% 성능 저하.

오염이라면 이 조건들에서 반드시 해결되어야 한다. 틀린 내용을 없앴기 때문이다. 그런데 부패는 남는다. 바로 이 점이 부패를 오염으로 환원할 수 없는 독립 범주로 만드는 핵심 논거다. “내용을 아무리 깨끗이 해도 길면 썩는다”, 이것이 부패의 정체성이다.

5. 둘이 함께 누적되는 멀티턴 시나리오

멀티턴 에이전트에서 오염과 부패는 동시에 쌓이며 서로를 증폭한다.

  1. 턴 누적 → 길이 증가(부패 점화): 도구 호출 결과와 중간 요약이 쌓이며 컨텍스트가 길어진다. 내용이 다 사실이어도 길이만으로 검색·추론 정확도가 떨어지기 시작한다. 순수한 부패다.
  2. 부패가 오염을 키운다: 부패로 검색 정확도가 떨어지면 모델이 관련 정보를 “있는데도 못 찾고”(05_02-분류-다른-실패모드와의-관계 4.2절의 Claude Sonnet 4 사례), 그 빈틈을 환각으로 메운다. 이 환각이 요약·목표에 기록되는 순간 오염이 시작된다.
  3. 오염이 부패를 키운다: 오염된 정보가 자기강화 루프를 타고 반복 기록되면 컨텍스트가 더 길어지고, 그만큼 부패가 깊어진다.
  4. 악순환: 부패 → 검색 실패 → 환각 → 오염 → 컨텍스트 팽창 → 부패 심화. 두 축이 서로를 먹인다.
flowchart LR
    A["턴 누적<br/>길이 ↑"] --> B["부패<br/>검색·추론 저하"]
    B --> C["관련 정보 못 찾음<br/>→ 환각으로 메움"]
    C --> D["환각이 기록됨<br/>오염 시작"]
    D --> E["자기강화로<br/>컨텍스트 팽창"]
    E --> A
    style B fill:#16a085,color:#fff
    style D fill:#e74c3c,color:#fff

진단할 때의 분리 원칙은 이렇다. “못 찾아서 지어낸 것”의 뿌리는 부패(길이)이고, “지어낸 것이 굳어 반복되는 것”은 오염(내용)이다. 처방도 둘 다 필요하다. 컨텍스트를 줄여 부패를 끊고(focused 입력·검색-추론 분리), 박힌 오염원은 격리·리셋한다.

요약·체크리스트

  • 틀린 정보가 실제로 박혀 있나? 있으면 오염, 모두 사실인데 저하면 부패.
  • 사고 실험: 비관련·거짓 토큰을 다 지우면 정상화? 되면 오염, 안 되면 부패.
  • 부패 핵심 기억: 완벽 검색·완전 마스킹·무해 내용에도 길면 부패한다(Du et al. 2025).
  • 곡선 모양: 임계 고착이면 오염, 길이 따라 단조·비균질 하락이면 부패.
  • 처방 선택: 오염=격리·제거·리셋 / 부패=컨텍스트 최소화·검색-추론 분리·focused 입력.
  • 오답 처방 경계: 필터링·정화(오염 처방)로는 부패가 안 풀린다 — 관련 정보만 남겨도 길면 썩는다.
  • 멀티턴 공존: “못 찾아 지어냄”=부패 뿌리, “지어낸 게 굳음”=오염. 둘 다 처방하라.

관련 노트

그래프 뷰

백링크