컨텍스트 엔지니어링 실패모드 위키

논쟁 — 컨텍스트 산만의 근본 원인: 어텐션 한계 vs. 훈련 데이터 부족 vs. 위치 인코딩

25 min read

상위: 02_00_MOC

한 줄 요지

컨텍스트 산만의 근본 원인을 두고 세 진영이 경쟁한다. 어텐션 메커니즘의 구조적 한계, 장문 컨텍스트 사후훈련 데이터의 부족, 위치 인코딩 설계 문제다. 진영마다 탄탄한 실험 증거가 있지만 아직 이들을 하나로 묶는 설명은 없다. 원인을 어떻게 진단하느냐에 따라 완화 전략이 달라지기 때문에, 이 논쟁은 순수 학술 논쟁에 그치지 않고 실무 설계 결정과 곧장 맞닿아 있다.

1. 왜 이 논쟁이 중요한가

컨텍스트 산만(Context Distraction)은 Drew Breunig이 명명한 실패 모드지만, 그 원인에 대한 합의된 해석은 아직 없다. 진단이 달라지면 처방도 달라진다.

원인 진단처방 방향
어텐션 구조 한계아키텍처 교체(Mamba, 선형 어텐션), 컨텍스트 압축
훈련 데이터 부족장문 sft 데이터 증강, RLHF 튜닝
위치 인코딩 설계 결함RoPE 수정(STRING), ALiBi 등 대안 인코딩

세 원인은 서로 독립적일 수도 있고 겹칠 수도 있다. 지금까지 쌓인 증거를 정리하면서 각 진영의 주장과 약점을 차례로 살펴본다.

2. 진영 1 — 어텐션 메커니즘의 구조적 한계설

2.1 핵심 주장

소프트맥스 어텐션(softmax attention)은 컨텍스트가 길어질수록 관련 토큰 쌍에 집중하는 능력이 구조적으로 희석된다. 훈련 방식이나 데이터의 문제가 아니라 어텐션 계산 자체의 수학적 성질에서 비롯된다는 주장이다.

2.2 핵심 증거: Du et al. (EMNLP 2025)

“Context Length Alone Hurts LLM Performance Despite Perfect Retrieval” (arXiv:2510.05381, EMNLP 2025 Findings)

이 연구는 실험 설계가 핵심이다. 수학, QA, 코딩 태스크에서 오픈·클로즈드를 섞은 5개 LLM을 쓰되, 세 가지 방식으로 검색 품질을 완벽하게 통제했다.

  1. 완벽 검색 조건: 관련 토큰만 남기고 무관 토큰을 공백(whitespace)으로 대체
  2. 마스킹 조건: 무관 토큰을 어텐션에서 완전히 차단(attention mask)
  3. 근접 배치 조건: 관련 증거를 질문 바로 앞에 배치

세 조건 모두에서 컨텍스트가 길어질수록 성능이 떨어졌다. 하락 폭은 13.9%에서 85%에 이른다.

“The sheer length of the input alone can hurt LLM performance, independent of retrieval quality and without any distraction.” — Du et al., 2025

이 결과의 이론적 함의는 묵직하다. “무관한 정보가 노이즈로 작용한다”는 설명이 반증된 셈이다. 주변에 아무것도 없고 어텐션이 관련 토큰만 보더라도, 길이 그 자체가 성능을 깎아먹는다.

2.3 핵심 증거: Modarressi et al. — NoLiMa (ICML 2025)

NoLiMa(No Literal Matching)는 기존 NIAH 벤치마크의 한계를 겨냥해 설계된 평가 프레임워크다. 질문과 정보(needle) 사이의 표면적 어휘 일치(literal text overlap)를 의도적으로 없앴다.

결과(ICML 2025 최종 버전 기준):

모델단문 컨텍스트32K 컨텍스트하락폭
GPT-4o99.3%69.7%−29.6pp
Llama 3.3 70B97.3%42.7%−54.6pp
Claude 3.5 Sonnet87.6%29.8%−57.8pp
Command R+90.9%7.4%−83.5pp

32K에서는 13개 중 11개 모델이 단문 대비 50% 이하로 떨어졌다.

“The increased difficulty the attention mechanism faces in longer contexts when literal matches are absent prevents models from effectively retrieving relevant information, even when equipped with reasoning capabilities or chain-of-thought prompting.” — Modarressi et al., 2025

이 관찰은 어텐션 메커니즘이 어휘 단서(lexical shortcut)에 기대는 경향을 드러낸다. 표면적 매칭이 없으면 어텐션은 장문 컨텍스트에서 의미론적 관련성을 짚어내는 데 근본적으로 애를 먹는다.

2.4 진영 1의 약점

어텐션 한계설은 모델마다 한계점이 왜 다른지를 충분히 설명하지 못한다. Gemini-1.5는 128K에서도 성능을 유지하는데 같은 구조의 소형 모델은 훨씬 일찍 무너진다. 아키텍처 말고도 다른 요인이 끼어든다는 뜻이다.

3. 진영 2 — 훈련 데이터 부족설

3.1 핵심 주장

모델이 장문 컨텍스트를 제대로 다루지 못하는 것은 어텐션의 고유한 한계 때문이 아니라, 사후훈련(post-training) 단계에서 장문 지시 데이터를 충분히 학습하지 못했기 때문이라는 주장이다. 이 경우라면 장문 SFT 데이터를 늘려 보완할 수 있다.

3.2 핵심 증거: Databricks (2024)

“Long Context RAG Performance of LLMs” (databricks.com/blog)

13개 LLM, 4개 RAG 데이터셋, 2,000회 이상의 실험을 묶은 연구다. 가장 눈에 띄는 대목은 모델마다 실패 양상이 다르다는 점이다.

모델실패 패턴임계 컨텍스트
Claude-3-sonnet저작권 거부 급증 (3.7% @ 16K → 49.5% @ 64K)~32K
DBRX-instruct지시 불이행, 요약 반복 (5.2% @ 8K → 50.4% @ 32K)~16K
Mixtral-8x7b반복 콘텐츠 생성 (“梦梦梦梦”)~4K
GPT-4-turbo사실 오답 증가~64K
Llama-3.1-405B정확도 하락 시작~32K

Claude-3-sonnet의 저작권 거부 급증, DBRX의 요약 반복은 “훈련 지식 무시” 패턴이 아니라 장문 컨텍스트에서의 지시 추종 실패다. 연구팀은 이를 훈련 데이터 부족의 증거로 못 박았다.

“The patterns mirror findings from related research showing that diverse long-instruction training data directly enhances long-context capabilities. Models can technically process longer contexts but haven’t been adequately trained to maintain instruction-following behavior at those scales.” — Databricks, 2024

3.3 훈련 부족설의 지지 논리

이 해석을 뒷받침하는 논거는 다음과 같다.

  • GPT-4o와 Claude-3.5-sonnet은 같은 연구에서 장문에서도 성능을 유지했다. 아키텍처가 비슷하더라도 최신 모델일수록 장문 사후훈련에 더 많이 투자했을 공산이 크다.
  • RULER(Hsieh et al., COLM 2024)에서 Gemini-1.5는 128K까지 성능을 거의 그대로 유지했다(96.7% → 94.4%, −2.3pp). 같은 구간에서 Mistral-v0.2는 93.6% → 13.8%(−79.8pp)로 무너졌다. 아키텍처 차이만으로는 이 격차를 설명하기 어렵다.

3.4 RULER 벤치마크가 드러낸 실효 컨텍스트 길이 갭

Hsieh et al.(COLM 2024, arXiv:2404.06654)의 RULER는 바닐라 NIAH를 넘어 multi-hop 추론과 집계 태스크까지 포함한다.

핵심 발견은 이렇다. 32K 이상을 지원한다고 내세운 모델 가운데 절반만이 실제로 32K에서 만족스러운 성능을 유지했다.

모델별 4K → 128K 성능 변화(RULER 종합 점수):

모델4K128K변화
Gemini-1.596.7%94.4%−2.3pp
GPT-496.6%81.2%−15.4pp
Llama3.1-70B96.5%66.6%−29.9pp
Yi-34B93.3%77.3%−16.0pp
Mistral-v0.293.6%13.8%−79.8pp
DBRX64K: 2.4%128K: 0%사실상 붕괴

광고 컨텍스트 대 실효 컨텍스트 길이:

모델광고 컨텍스트실효 컨텍스트갭 비율
Gemini-1.51M128K+>12.5%
GPT-4128K64K50%
Llama3.1-70B128K64K50%
Qwen2-72B128K32K25%
Yi-34B200K32K16%

Gemini-1.5의 뛰어난 성능은 대규모 사후훈련 투자의 결과일 수도 있고, 독특한 아키텍처(선형 어텐션 요소를 포함했을 가능성) 덕분일 수도 있다. 어느 쪽인지는 아직 가려지지 않았다.

3.5 진영 2의 약점

훈련 데이터 부족설의 약점은 Du et al.(2025)의 실험에서 드러난다. 검색이 완벽하고 무관 토큰을 마스킹한 조건에서도 성능이 떨어진다면, 훈련 데이터를 아무리 늘려도 풀리지 않는 구조적 부분이 남는다는 뜻이다. 훈련 부족설은 일부 모델이 더 강한 이유는 설명하지만, 모든 모델이 어느 시점에선가 하락하는 이유는 설명하지 못할 수 있다.

4. 진영 3 — 위치 인코딩 설계 문제설

4.1 핵심 주장

어텐션 메커니즘의 구조 자체는 문제가 아니다. 진짜 문제는 RoPE(Rotary Position Embedding)를 비롯한 현재의 위치 인코딩 방식이 장거리 위치 관계를 충분히 담아내지 못한다는 데 있다. 위치 인코딩을 손보면 추가 훈련 없이도 장문 성능이 크게 좋아진다는 주장이다.

4.2 핵심 증거: An et al. (2024) — STRING

“Make Your LLM Fully Utilize the Context” (arXiv:2410.18745)

이 연구는 문제의 뿌리를 상대적 위치의 좌편향 빈도 분포(left-skewed frequency distribution of relative positions)에서 찾는다.

오픈소스 LLM의 실효 컨텍스트 길이가 훈련 길이의 50%를 넘지 못하는 까닭은 이렇다. 사전훈련과 사후훈련 과정에서 단거리 위치 쌍(short-range position pairs)이 장거리 쌍(long-range pairs)보다 압도적으로 자주 등장한다. 그 결과 모델은 가까운 위치 관계를 보는 데 최적화되고, 먼 거리의 정보를 통합하는 능력은 어설프게 남는다.

graph LR
    A[훈련 데이터<br/>위치 분포] --> B[단거리 쌍 과다<br/>장거리 쌍 희소]
    B --> C[모델: 근거리 위치에<br/>어텐션 집중 최적화]
    C --> D[장거리 정보 통합 비효율]
    D --> E[실효 컨텍스트 길이<br/>≤ 훈련 길이의 50%]

해결책으로 제시된 STRING(ShifTed Rotary position embeddING)은 추가 훈련 없이, 잘 훈련된 위치(well-trained positions)를 비효율적인 원거리 위치(ineffective distant positions)에 덮어쓰는 방식으로 추론 단계에서 위치 인코딩을 손본다.

실험 결과는 다음과 같다.

  • Llama 3.1 70B + STRING: RULER·InfiniteBench에서 10점 이상 개선
  • Qwen2 72B + STRING: 마찬가지로 10점 이상 개선
  • Llama 3.1 70B + STRING이 GPT-4-128K를 앞서고 Claude 2·Kimi-chat도 능가

함의는 묵직하다. 추가 훈련 없이 위치 인코딩만 고쳐 10점 이상을 끌어올릴 수 있다면, 위치 인코딩 설계가 어텐션 아키텍처나 훈련 데이터 못지않게, 어쩌면 그보다 더 결정적인 요인일 수 있다는 뜻이다.

4.3 위치 편향(Position Bias): “Lost in the Middle”

Liu et al.(2024, TACL)은 위치 인코딩의 편향이 실제 행동으로 드러난다는 것을 실증했다.

  • 관련 정보의 위치가 성능을 좌우하는 주요 요인이다.
  • 성능 곡선은 U자형(U-shaped)을 그린다. 컨텍스트의 처음과 끝은 잘 활용되지만 중간에 놓인 정보는 정확도가 급락한다.
  • “explicitly long-context models”로 설계된 모델에서도 똑같이 나타난다.
  • 처음·끝 대비 중간 위치의 정확도는 약 18~20퍼센트포인트 떨어진다(RULER 기반 수치).

이는 사람의 초두 효과(primacy effect)·최신 효과(recency effect)와 구조적으로 닮았고, 현재 위치 인코딩 방식이 토큰 거리에 따라 어텐션 가중치를 체계적으로 비튼다는 점을 시사한다. 위치 편향 상세 노트를 참조하라.

4.4 진영 3의 약점

위치 인코딩을 고쳐 성능이 좋아지더라도, 그것이 원인을 건드린 것인지 증상만 누른 것인지는 분명하지 않다. STRING이 10점을 끌어올려도 완벽한 장문 성능에는 닿지 못한다. 위치 인코딩 문제를 해결한 뒤에도 어텐션 희석과 훈련 데이터 부족이라는 원인이 남아 있을 수 있다.

5. 세 진영의 관계: 상호 배타적인가, 중첩되는가

graph TD
    subgraph 어텐션 한계설
        A1[소프트맥스 어텐션<br/>수학적 희석]
        A2[어휘 단서 의존<br/>(NoLiMa)]
        A3[마스킹 후에도 저하<br/>(Du et al.)]
    end
    
    subgraph 훈련 데이터 부족설
        B1[모델별 상이한<br/>임계 컨텍스트]
        B2[지시 추종 실패<br/>(DBRX, Claude-sonnet)]
        B3[장문 SFT 투자로<br/>개선 가능]
    end
    
    subgraph 위치 인코딩 문제설
        C1[좌편향 위치 분포]
        C2[훈련 없이<br/>수정으로 10점 개선]
        C3[U자형 위치 편향]
    end
    
    A1 --- X{모두 독립적<br/>원인일 수 있음}
    B1 --- X
    C1 --- X
    X --> Y[산만 임계점의<br/>모델별 차이]

세 원인은 서로 배타적이지 않다. 가장 현실적인 해석은 이들이 겹쳐 작동한다는 쪽이다. 위치 인코딩 문제가 깔린 상태에서 어텐션의 구조적 희석이 작동하고, 그 위에서 훈련 데이터가 얼마나 충분한지가 모델이 어디까지 버티는지를 가른다.

이렇게 보면 Gemini-1.5의 강세는 세 요인 모두에서 우위를 점한 결과이고, Mixtral의 조기 붕괴는 세 요인 모두에서 불리했던 결과로 볼 수 있다.

6. 메타 논쟁: 벤치마크의 허상

6.1 NIAH는 너무 쉽다

바닐라 NIAH(Needle-In-A-Haystack)는 질문 텍스트와 needle 텍스트 사이에 어휘 중복이 크다. 그래서 모델은 정교한 이해 없이 어휘 매칭만으로도 needle을 찾아낼 수 있다.

실제로 GPT-4.1은 NIAH에서 100%에 가까운 성능을 내지만, 같은 컨텍스트 길이에서 RULER의 multi-hop 태스크에서는 60%대로 떨어진다.

NIAH 99% → RULER 60%
         ↓
"장문 컨텍스트 지원"은 과제 유형에 크게 의존한다

6.2 RULER의 진전과 한계

RULER(Hsieh et al., 2024)는 4개 카테고리 13개 태스크로 NIAH를 넓혀 실효 컨텍스트 길이의 간극을 드러냈다. 다만 RULER 역시 합성 데이터(synthetic data)에 기반하는 탓에 실제 에이전트 작업의 복잡성을 온전히 담아내지는 못한다.

6.3 NoLiMa의 비판적 기여

NoLiMa(arXiv:2502.05167)는 한 걸음 더 나아가 어휘 매칭 단서마저 없앴다. RULER에서 좋은 점수를 받은 모델도 NoLiMa에서는 일찍 무너질 수 있다. 덕분에 “진짜 장문 이해”와 “어휘 매칭 기반 검색”을 가르는 쓸 만한 기준이 생겼다.

세 벤치마크의 난이도 스펙트럼:

NIAH (쉬움) ──→ RULER (중간) ──→ NoLiMa (어려움)
어휘 매칭 가능    복합 태스크      어휘 매칭 없음
99% 가능         60~80%           50% 이하 (32K)

7. 대형 모델은 더 강한가: 크기 vs. 아키텍처 vs. 데이터

RULER 데이터가 내놓는 답은 단순하지 않다.

  • Gemini-1.5는 128K에서 성능을 유지한다 → 대형 모델 우위를 뒷받침한다.
  • 그러나 Llama3.1-70B(70B 파라미터)는 같은 128K에서 66.6%로 하락한다 → 크기만으로는 설명이 부족하다.
  • STRING은 추가 훈련 없이 위치 인코딩만 고쳐 GPT-4-128K 수준에 도달한다 → 아키텍처와 설계가 크기보다 결정적일 수 있다.

잠정 결론은 이렇다. 크기는 필요조건이지만 충분조건은 아니다. 위치 인코딩 설계와 장문 사후훈련이 대형 모델의 장문 성능에 크기 못지않게 기여한다.

8. 열린 연구 질문

8.1 KV 캐시 관리의 역할

KV 캐시(Key-Value Cache) 압축, 양자화, 선택적 제거 전략이 산만 임계점에 어떤 영향을 주는지는 아직 충분히 연구되지 않았다. KV 캐시 관리로 어텐션이 실제로 주목하는 범위를 조절할 수 있다면, 세 진영의 논쟁에 새로운 층위가 더해진다.

8.2 추론 모델의 다른 임계점 가능성

Chain-of-Thought 프롬프팅이 어느 정도 완화 효과를 내긴 하지만, NoLiMa 연구는 16K를 넘어서면 그 효과도 시들해진다고 관찰했다. o1/o3 계열 추론 모델이 더 높은 산만 임계점을 갖는지는 아직 체계적으로 연구되지 않았다. 추론 과정 자체가 컨텍스트를 정리하는 효과를 낸다면, 추론 모델에서는 임계점이 더 높아질 수 있다.

8.3 1M 컨텍스트는 에이전트 추론에 유효한가

Gemini 2.5 Pro의 Pokémon 사례를 보면, 1M 컨텍스트를 지원하는 모델조차 에이전트 추론에서는 이미 100K 수준에서 산만이 시작된다. 1M 토큰이 에이전트 추론에 제대로 작동하는 조건이 따로 있는지, 아니면 에이전트 설계는 늘 적극적인 컨텍스트 관리를 전제해야 하는지는 아직 가려지지 않았다.

2026년에 나온 LOCA-bench(Zeng et al., 2026), AgentLongBench(Fang et al., 2026) 같은 에이전트 전용 장문 컨텍스트 벤치마크가 이 질문에 부분적인 답을 내놓기 시작했지만, 아직 결정적인 결론에는 이르지 못했다.

9. 실무 함의: 원인별 완화 전략

flowchart LR
    D[컨텍스트 산만<br/>발생] --> E{원인 진단}
    E -->|어텐션 구조| F1[컨텍스트 압축<br/>ACON/요약 슬라이딩]
    E -->|어텐션 구조| F2[증거 재인용 프롬프트<br/>Du et al. 2025]
    E -->|훈련 부족| G1[최신·대형 모델 선택<br/>(GPT-4o, Claude 3.5)]
    E -->|훈련 부족| G2[장문 RAG 태스크 전용<br/>파인튜닝 데이터 구축]
    E -->|위치 인코딩| H1[정보 배치 최적화<br/>(처음/끝 우선배치)]
    E -->|위치 인코딩| H2[STRING/ALiBi 등<br/>위치 인코딩 수정 모델]

원인이 분명치 않을 때 두루 적용할 수 있는 전략은 다음과 같다.

  1. “1M 토큰이면 1M 토큰을 다 쓸 수 있다”는 가정을 버려라. 실효 컨텍스트 길이는 광고의 50~65% 수준이고, 에이전트 추론에서는 더 짧다. 산만 임계점 참조.

  2. 중요한 정보는 컨텍스트의 처음이나 끝에 두라. U자형 위치 편향은 모든 모델에서 나타난다. 시스템 프롬프트 → RAG 결과 → 사용자 질문 순서를 의도적으로 설계하라.

  3. 증거 재인용(evidence recitation) 프롬프트를 써라. 답하기 전에 관련 근거를 먼저 다시 적게 유도하면 GPT-4o 기준 최대 4%까지 좋아진다(Du et al., 2025).

  4. 에이전트 히스토리는 주기적으로 압축하라. ACON(Kang et al., ICML 2026)에서는 컨텍스트 압축으로 토큰 사용량을 26~54% 줄이면서 성능을 최대 46% 끌어올렸다. 06 해결전략 참조.

  5. 바닐라 NIAH 수치를 곧이곧대로 믿지 마라. RULER나 NoLiMa 기반 벤치마크 결과를 요구하거나 직접 측정하라.

10. 요약: 현재까지의 증거 지형

진영핵심 증거설명 강점설명 약점
어텐션 구조 한계Du et al. 2025 마스킹 조건 저하, NoLiMa 어휘 단서 제거 시 붕괴모든 모델에서 관찰되는 보편적 저하모델 간 성능 격차 설명 부족
훈련 데이터 부족Databricks 모델별 상이한 실패 패턴, Gemini-1.5의 뛰어난 성능모델 간 성능 격차, 개선 가능성 설명마스킹 조건 저하 설명 불가
위치 인코딩 설계STRING 추가 훈련 없이 10점 개선, U자형 위치 편향아키텍처 수준 원인, 무훈련 개선 가능잔여 저하 설명 불완전

현재로선 이렇게 보는 편이 가장 낫다. 세 요인은 모두 실재하며, 모델마다 어느 쪽이 지배적인지가 다르다. 이들을 하나로 묶는 통일 이론은 아직 없다. 실무에서는 세 원인 모두에 대비하는 다층적 전략이 안전하다.

참고문헌

그래프 뷰

백링크