상위: 03_00_MOC

논문 리뷰 — Less Context, Better Agents

서지 정보

항목내용
제목Less Context, Better Agents: Efficient Context Engineering for Long-Horizon Tool-Using LLM Agents
저자Abhilasha Lodha, Mahsa Pahlavikhah Varnosfaderani, Abir Chakraborty, Abhinav Mithal
제출2026 (arXiv:2606.10209)
URLhttps://arxiv.org/abs/2606.10209

문제 의식

기업 환경의 LLM 에이전트는 수십에서 수백 번의 툴 호출이 필요한 복잡한 워크플로우, 즉 장기 호라이즌(long-horizon) 태스크를 수행한다. 그런데 이 과정에서 대화 이력이 빠르게 불어나며 컨텍스트를 잠식한다.

흔히 과거 이력을 모두 보존할수록 에이전트가 더 잘 해낼 것이라고 생각하지만, 이 논문은 그 직관이 틀렸음을 실험으로 보여준다.


실험 설정

  • 태스크: Microsoft Dynamics 365 Finance and Operations에서 50개 호텔 비용 항목화(expense itemization)
  • 모델: GPT-5(주 실험), Claude Sonnet 4.5(교차 검증)
  • 각 조건을 평균 5회 독립 실행
  • MCP 툴을 사용하는 기업 에이전트 워크플로우

핵심 결과

전략완료율토큰 수실행시간
유저 모델 없음 (기준 최저)8.0%
전체 대화 이력 보존71.0%1,480,99614.56h
최근 5회만 프루닝79.0%535,2745.39h
프루닝 + 요약 (최적)91.6%553,3745.79h
xychart-beta
    title "컨텍스트 관리 전략별 태스크 완료율 (Lodha et al. 2026)"
    x-axis ["유저모델없음", "전체이력", "최근5회프루닝", "프루닝+요약"]
    y-axis "완료율 (%)" 0 --> 100
    bar [8, 71, 79, 91.6]

최적 전략인 프루닝+요약을 전체 이력 보존과 비교하면 차이가 뚜렷하다.

  • 완료율: +20.6%p (71.0% → 91.6%)
  • 토큰: 63% 절감 (1,480,996 → 553,374)
  • 실행시간: 60% 단축 (14.56h → 5.79h)

여기에 더해 프루닝+요약 방식은 평균 금액 항목화 정확도 99.64%를 기록했다.


핵심 인사이트

1. 더 긴 이력 ≠ 더 나은 성능

전체 이력(71%)보다 최근 5회만 남긴 프루닝(79%)이 낫고, 여기에 요약까지 더하면(91.6%) 가장 좋았다. 결국 과거 이력의 대부분은 노이즈인 셈이다.

2. 프루닝 + 요약의 시너지

  • 프루닝 단독: 오래된 이력을 버려 토큰을 아끼지만, 그 과정에서 중요한 정보까지 잃을 수 있다.
  • 요약 추가: 버려질 이력에서 핵심만 압축해 남긴다. 이렇게 하면 완료율이 +12.6%p 더 오른다.

3. 컨텍스트 관리 비용 vs 절감

요약을 만들려면 LLM 호출이 한 번 더 들어가 시간이 조금 늘지만(5.39h → 5.79h, +7.4%), 완료율 개선(+12.6%p)과 토큰 절감이 그 비용을 충분히 상쇄한다.


툴 과부하와의 연결

이 논문이 다루는 것은 툴 정의 과부하가 아니라 대화 이력 과부하지만, 작동하는 메커니즘은 같다.

  • 쓸모없어진 과거 툴 호출 결과가 컨텍스트를 잠식한다.
  • 그 탓에 지금 태스크에 필요한 정보로 가야 할 어텐션이 희석된다.
  • 결국 컨텍스트 트리밍(pruning)이 핵심 해결책이 된다.

컨텍스트 혼란은 무엇을 넣느냐만큼 무엇을 빼느냐도 중요하다.


Anthropic 공식 수치와의 비교

Anthropic의 Managing context on the Claude Developer Platform(2025)에 실린 수치도 같은 방향을 가리킨다.

  • Context Editing 단독: 기준 대비 +29%
  • Context Editing + Memory Tool: 기준 대비 +39%
  • 100턴 웹 검색 평가: 토큰 84% 감소

컨텍스트를 선택적으로 유지하는 쪽이 더 나은 결과를 낸다는 점에서 Lodha et al.의 결론과 맞물린다.


참고문헌


형제 노트: 03_06-paper-cmtf-bor · 03_08-해결전략-less-is-more · 03_09-교육현장-AX-활용 타 챕터: 06 해결전략 · 08 실전