컨텍스트 엔지니어링 실패모드 위키

비교 — 산만 vs 부패: 길이 축 형제 변별

13 min read

볼트 홈: README

비교 — 산만 vs 부패: 길이 축 형제 변별

한 줄 정의

산만(Distraction)은 컨텍스트가 임계 토큰을 넘으면 추론 대신 누적 히스토리에 과의존해 행동을 반복하는 행동·주의 차원의 실패이고, 부패(Rot)는 입력 길이가 늘수록 정보 활용도가 단조롭게 하락하는 정보 활용 차원의 실패다. 둘 다 길이(HOW MUCH)를 원인으로 공유하지만 무너지는 방식이 다르다.

왜 중요한가

산만과 부패는 5대 실패모드 중 가장 헷갈리는 한 쌍이다. 오염(01 오염)·혼란(03 혼란)·충돌(04 충돌)이 정보의 내용(질)을 문제 삼는 데 비해, 산만과 부패는 둘 다 정보의 양(길이)을 원인으로 지목하는 형제다. 같은 논문(Du et al. EMNLP 2025의 “길이 자체가 해롭다”)을 공유하고, 같은 메커니즘(어텐션 희석, Lost in the Middle)을 함께 인용한다. 그래서 현장에서 “이건 산만이야”와 “이건 부패야”를 구별하지 못하면 엉뚱한 처방(축소 vs 분리)을 들이대기 쉽다.

핵심은 이것이다. 산만은 과거에 끌려다니는 병이고, 부패는 현재 정보를 못 쓰는 병이다.

1. 헷갈리는 이유 — 왜 한 몸처럼 보이는가

산만과 부패가 사실상 동의어처럼 쓰이는 데는 구조적 이유가 있다.

  • 원인 변수(길이)가 같다. 두 개념 모두 “내용이 완벽해도, 검색이 완벽해도, 잡음을 마스킹해도 길이만으로 성능이 떨어진다”는 Du et al.(EMNLP 2025)의 13.9~85% 저하를 핵심 근거로 든다.
  • 메커니즘도 같다. 어텐션 희석(O(N²) 가중치 분산)과 Lost in the Middle 위치 편향(Liu et al. TACL 2024)이 양쪽 챕터에 나란히 등장한다.
  • 분류상 포함 관계로도 서술된다. 03 혼란의 연결 노트는 “혼란은 컨텍스트 로트(부패)의 하위 유형”이라 적고, 부패는 길이 실패모드를 묶는 상위 우산 개념으로 쓰이기도 한다. 이 우산 안에서 산만은 “에이전트 행동 차원의 발현”으로 좁혀진다.

그래도 결정적으로 갈리는 지점이 있다. 무너지는 형태가 다르다.

2. 결정적 구분 질문

아래 질문 하나로 대부분 갈린다.

“성능이 (a) 어느 토큰 선을 넘는 순간 질적으로 꺾여 같은 행동을 반복하는가, 아니면 (b) 길이에 비례해 정보 활용도가 매끄럽게 계속 미끄러지는가?”

  • (a)라면 산만이다. 산만에는 임계점(Distraction Ceiling)이 있다. Gemini 2.5 Pro가 100K 토큰을 넘자 Pewter City 뒷마당에서 원을 그리며 수 시간 갇힌 사례처럼, 선을 넘으면 행동이 질적으로 변한다(새 계획 생성 → 히스토리 반복).
  • (b)라면 부패다. 부패는 임계점이 아니라 단조·비균질 하락 곡선으로 나타난다. Chroma Research(2025)의 18개 모델에서 Focused(~300 토큰)가 Full(~113K 토큰)보다 예외 없이 우월했던 것처럼, 길이가 늘수록 정보 활용도가 점진적으로 떨어진다.

보조 질문 두 가지:

보조 질문산만 신호부패 신호
주로 어디서 관찰되나동적으로 히스토리가 누적되는 에이전트 루프단발성 긴 입력의 검색·QA 전반
컨텍스트를 리셋하면즉시 정상 복구(루프 탈출)길이만 줄이면 비례해 회복(질적 점프 아님)

3. 비교표 — 결정적 구분점

구분축컨텍스트 산만 (Distraction)컨텍스트 부패 (Rot)
차원행동·주의 차원 (행동이 고착)정보 활용 차원 (정보를 못 씀)
발현 형태임계점 돌파 → 질적 행동 변화 (반복·고착)단조·점진 하락 (비균질 성능 저하)
직관 한 줄과거에 끌려다님현재 정보를 못 씀
핵심 곡선임계 토큰 전후로 꺾이는 절벽형길이에 비례해 미끄러지는 사면형
주 관찰 지표새 계획 생성 실패율, 행동 반복률Focused vs Full 정답률 격차, effective length
대표 사례Gemini 2.5 Pro Pokémon 에이전트(100K+ 행동 반복)Chroma 18개 모델 Focused(~300tok) > Full(~113K)
대표 수치1M 광고 대비 ~100K(10%)에서 산만 시작GPT-4.1 1M 광고 대비 NoLiMa effective 16K
대표 근거 노트02_04-개념-산만-임계점05_01-정의-컨텍스트-부패

두 개념이 공유하는 수치 주의: Du et al.(EMNLP 2025)의 13.9~85% 저하는 양쪽 챕터가 모두 인용한다. 같은 논문이 임계점(산만) 해석과 단조 하락(부패) 해석으로 양분되어 쓰인다는 점이 혼동의 핵심 출처다.

4. “과거 vs 현재” 직관 — 가장 빠른 변별

복잡한 표보다 이 한 문장이 현장에서 가장 빠르다.

  • 산만 = 과거에 끌려다님. 누적된 히스토리가 너무 무거운 나머지, 모델이 “지금까지 이렇게 해왔으니 또 그렇게 한다”는 귀납적 패턴 복사로 빠진다. 훈련 시 내재화한 추론 능력(training-time knowledge)을 발휘하지 못하고 새 계획(novel planning) 생성을 포기한다. 문제의 무게중심은 누적 히스토리, 곧 과거다.
  • 부패 = 현재 정보를 못 씀. 지금 컨텍스트 안에 정답이 완벽하게 들어 있어도(perfect retrieval), 길이가 길다는 이유만으로 그 정보를 끌어 쓰지 못한다. 무게중심은 현재 입력 안의 정보 활용 실패에 있다.

같은 긴 컨텍스트를 두고 산만은 행동이 과거에 고착되는 쪽을, 부패는 현재 정보가 흐려지는 쪽을 본다.

5. 곡선 대조 — 임계점 vs 단조하락

산만과 부패의 가장 본질적인 차이는 성능-길이 곡선의 모양이다.

flowchart LR
    subgraph S["산만 — 임계점 절벽형"]
        S1["짧음: 정상 추론<br/>새 계획 생성"] --> S2["임계점 Distraction Ceiling"]
        S2 --> S3["돌파 직후 질적 급락<br/>히스토리 반복 고착"]
    end
    subgraph R["부패 — 단조 하락 사면형"]
        R1["짧음: 높은 활용도"] --> R2["길이 증가<br/>점진적 미끄러짐"]
        R2 --> R3["길수록 계속 하락<br/>비균질 저하"]
    end
    style S2 fill:#ff9999
    style S3 fill:#ff6666
    style R3 fill:#ffcc99
  • 산만 곡선: 임계 토큰까지는 평평하게 정상이다가 임계점에서 절벽처럼 꺾인다. 꺾인 뒤엔 정확도가 떨어지는 데 그치지 않고 행동 양식 자체가 바뀐다(반복 루프). 리셋하면 다시 절벽 위로 복귀한다.
  • 부패 곡선: 임계점이 없다. 짧을 때부터 길어질수록 계속 미끄러진다. AbsenceBench에서 Claude-3.7-Sonnet이 5K 토큰에서도 69.6% F1로 이미 흔들린 것처럼, 절벽이 아니라 연속적인 사면이다.

6. 공존 — 같은 긴 컨텍스트에서 어떻게 함께 나타나는가

실무에서 둘은 배타적이지 않다. 하나의 긴 에이전트 컨텍스트 안에서 함께 진행된다.

  • 먼저 부패가 바탕에 깔린다. 에이전트 루프가 길어지면서 매 턴 현재 입력의 정보 활용도가 길이에 비례해 서서히 떨어진다(부패의 단조 하락). 이 단계에서는 아직 답이 조금 부정확해지는 정도다.
  • 그 위에서 임계점을 넘으면 산만이 점화된다. 누적 히스토리가 Distraction Ceiling(예: 100K)을 넘는 순간, 정확도 저하를 넘어 행동이 과거 반복으로 고착된다. 부패가 정보를 흐려 놓은 상태 위에서 산만이 행동을 과거에 못 박는 셈이다.
  • 그리고 악순환이 돈다. 산만으로 반복된 행동의 결과가 다시 히스토리에 쌓여 길이를 늘리고, 늘어난 길이가 부패를 심화한다. 더 낮아진 정보 활용도는 새 계획 생성을 한층 어렵게 만들어 다시 산만을 키운다.

처방도 이 순서를 따른다. 공통 1차 처방은 길이 줄이기(슬라이딩 윈도우 요약, 히스토리 압축, 검색-추론 분리)다. 다만 강조점이 갈린다.

  • 산만이 의심되면 임계점에 닿기 전에 히스토리를 압축·리셋해 행동 고착을 끊는다.
  • 부패가 의심되면 Focused 입력 설계(필요한 청크만, 위치는 처음과 끝)로 현재 정보 활용도를 끌어올린다.

상세한 분류 관계는 05_02-분류-다른-실패모드와의-관계와 09_01-감별진단-5대모드-종합비교를 참조한다.

요약·체크리스트

  • 차원 구분: 산만 = 행동·주의 차원(행동 고착) / 부패 = 정보 활용 차원(정보 못 씀).
  • 곡선 구분: 산만 = 임계점 절벽형 / 부패 = 단조 하락 사면형.
  • 직관 한 줄: 산만 = 과거에 끌려다님 / 부패 = 현재 정보를 못 씀.
  • 결정 질문: 임계선에서 질적으로 꺾여 행동 반복 → 산만 / 길이 비례 매끄러운 하락 → 부패.
  • 관찰 위치: 산만 = 동적 에이전트 루프 / 부패 = 단발성 긴 입력 전반.
  • 공유 주의: Du et al. 13.9~85% 저하는 양쪽이 모두 인용 — 같은 논문이 임계점/단조 두 해석으로 쓰임.
  • 공존 처방: 공통 1차는 “길이 줄이기”. 산만은 임계 전 압축·리셋, 부패는 Focused 입력 설계.

상위 챕터: 02 산만 · 05 부패 근거 노트: 02_01-정의-컨텍스트-산만 · 02_04-개념-산만-임계점 · 05_01-정의-컨텍스트-부패 · 05_02-분류-다른-실패모드와의-관계 감별 종합: 09_01-감별진단-5대모드-종합비교

그래프 뷰

백링크