상위: 07_00_MOC
충돌 해소와 합의 — 침범이 일어난 뒤 무엇을 하는가
격리·불변화·출처검증을 모두 거쳐도 충돌은 남는다. 협력하는 에이전트들이 같은 목표를 다르게 해석하는 것은 버그가 아니라 자유 형식 협업의 본질이다. 그래서 거버넌스의 목표는 충돌을 0으로 만드는 데 있지 않다. 충돌을 탐지하고 우선순위에 따라 해소하는 절차를 갖추는 것이다.
1. Semantic Consensus Framework — 충돌을 탐지·해소
Vivek Acharya(2026)의 SCF는 멀티에이전트 충돌 해소에서 지금까지 가장 앞선 접근이다. 핵심 진단은 Semantic Intent Divergence다. 협력하는 에이전트들이 단편화된 컨텍스트와 프로세스 모델 부재 탓에 공유 목표를 서로 다르게 해석하는 현상으로, 03 혼란의 멀티에이전트 판본에 해당한다.
SCF의 구성:
- Process Context Layer — 에이전트 간 공유 운영 의미론(shared operational semantics) 확립
- Semantic Intent Graph — 에이전트 의도의 형식적 표현
- Conflict Detection Engine — 세 가지 충돌 유형을 실시간 탐지한다. (1) 모순된 의도 조합, (2) 경합 기반 충돌, (3) 인과적으로 무효한 의도 시퀀스
- 합의 해소 프로토콜 — 정책-권위-시간(Policy-Authority-Temporal) 계층으로 해소 우선순위를 정한다
이 Policy-Authority-Temporal 우선순위는 07_02-근본원인-권위와-출처-메타데이터-부재에서 빠졌던 메타데이터를 그대로 적용한 것이다. 정책(불변 규칙)이 권위(누가 정했나)를 이기고, 권위가 시간(최근성)을 이긴다. “최근 발언이 무조건 이긴다”는 recency 편향을 이 순서가 뒤집는다.
결과는 인상적이지만 한계도 명확하다.
“100% workflow completion—compared to 25.1% for the next-best baseline across 600 test runs.” — Acharya(2026)
“65.2% of semantic conflicts detected with 27.9% precision.” — Acharya(2026)
AutoGen·CrewAI·LangGraph 600회 실행에서 워크플로우 완료율 100%를 기록했고, 차선 베이스라인은 25.1%였다. 다만 충돌 탐지율 65.2%, 정밀도 27.9%라는 수치는 미탐지 충돌이 약 35% 남는다는 뜻이다. 고위험 프로덕션이라면 SCF를 단일 방어선으로 신뢰해서는 안 되고, 추가 검증 계층을 함께 둬야 한다.
graph TD C["충돌 탐지<br/>(모순·경합·무효 시퀀스)"] --> P["1순위: Policy<br/>(불변 정책 우선)"] P --> A["2순위: Authority<br/>(높은 권위 우선)"] A --> T["3순위: Temporal<br/>(동권위시 최근성)"] T --> RES["해소된 결정"] C -.->|"미탐지 ~35%"| GAP["잔여 충돌<br/>→ 독립 Verifier 추가 필요"] style C fill:#FF8800,color:#fff style RES fill:#44AA44,color:#fff style GAP fill:#FF4444,color:#fff
2. 안전성의 비합성성 — 가장 근본적인 난제
충돌 해소만으로는 왜 부족한가. Christian Schroeder de Witt et al.(2025, 24인, “Open Challenges in Multi-Agent Security”)이 가장 깊은 난제를 짚는다.
“Individually safe agents can compose into unsafe systems.” — de Witt et al.(2025)
개별적으로 안전하다고 검증된 에이전트들도 결합되면 안전하지 않은 시스템이 될 수 있다. 특히 스테가노그래피적 통신(steganographic communication)을 쓰면, 감시자가 전체 통신을 들여다봐도 탐지하지 못하는 비밀 채널(secret collusion)을 에이전트들끼리 만들어낼 수 있다.
“Free-form protocols are essential for AI’s task generalization but enable new threats like secret collusion and coordinated swarm attacks.” — de Witt et al.(2025)
자유 형식 프로토콜은 작업 일반화에 필수지만, 동시에 은밀한 공모와 스웜 공격의 길을 연다. 여기서 나오는 함의는 분명하다. 거버넌스는 에이전트 단위가 아니라 시스템 토폴로지 단위로 설계해야 한다. SCF 같은 충돌 해소가 개별 충돌을 잘 처리하더라도, 합성 차원에서 창발하는 위협은 별도의 설계를 요구한다. 저자들은 다중에이전트 보안을 독립된 연구 분야로 정립하자고 제안한다.
3. AgentCity — Logic Monopoly와 삼권분립(이론적 프레임워크)
Anbang Ruan, Xing Zhang(2026)은 충돌과 오염을 헌법적 관점에서 다시 본다. 핵심 개념은 Logic Monopoly다.
“Logic Monopoly — the agent society’s unchecked monopoly over the entire logic chain from planning through execution to evaluation.” — Ruan & Zhang(2026)
에이전트들이 “계획→실행→평가”라는 전체 논리 체인을 인간 통제 없이 독점하는 것, 이것이 오염의 근본 구조다. 처방은 삼권분립(Separation of Power)이다.
- 입법 — 에이전트가 스마트 계약으로 운영 규칙을 생산한다(규칙의 코드화·불변화). 이 챕터 07_04-불변규칙-쓰기보호-CLAUDE-AGENTS-Constitutional의 헌법층과 동형이다.
- 행정 — 결정론적 소프트웨어가 계약 범위 안에서만 실행한다(임의적 재해석 방지). Hook 집행과 동형이다.
- 사법 — 인간이 완전한 소유권 체인으로 감독한다(모든 에이전트를 책임 주체에 귀속).
“Smart contracts are the law itself — the actual legislative output that agents produce and that governs their behavior.” — Ruan & Zhang(2026)
핵심 테제는 alignment-through-accountability다. 각 에이전트가 인간 소유자와 책임 체인으로 정렬되면, 집단 행동은 하향식 규칙 없이도 인간 의도에 수렴한다는 것이다.
실험 상태 주의 — AgentCity는 EVM 호환 레이어2에 3계층 스마트 계약을 구현하고, 50~1,000 에이전트 규모의 실험을 사전등록(pre-registered)한 단계다. 최종 결과는 아직 공개되지 않았으므로, 이 챕터에서는 이론적 프레임워크 제안으로만 다룬다.
graph TB subgraph TRAD["전통 멀티에이전트 (Logic Monopoly)"] A1["계획"] --> A2["실행"] --> A3["평가"] A3 -.->|"인간 감독 없는 루프"| A1 end subgraph SOC["삼권분립 (이론적 프레임워크)"] L["입법: 에이전트→스마트계약<br/>(규칙 불변화)"] E["행정: 결정론적 SW<br/>(계약 내 실행)"] J["사법: 인간 감독<br/>(소유권 체인)"] L --> E J -->|"감시·수정"| L J -->|"감시·수정"| E end style TRAD fill:#FFE0E0 style SOC fill:#E0FFE0 style L fill:#4488FF,color:#fff style E fill:#44AA44,color:#fff style J fill:#FF8800,color:#fff
저자 견해 — 삼권분립은 매력적인 은유지만, 실무에서 당장 쓸 수 있는 부분은 블록체인이 아니라 세 권력의 분리 자체다. 규칙 생산(입법), 결정론적 집행(행정), 인간 감사(사법)를 서로 다른 주체가 맡게 하라. 같은 에이전트가 규칙을 만들고 집행하고 평가하면 Logic Monopoly에 빠진다. 이 챕터가 권하는 검증 게이트 분리의 헌법적 근거가 여기에 있다. 근거는 Ruan & Zhang(2026)에서 가져오되, 블록체인 의존은 이 챕터의 처방에서 뺀다.
참고문헌
- Semantic Consensus: Process-Aware Conflict Detection and Resolution for Enterprise Multi-Agent LLM Systems — Vivek Acharya, 2026, arXiv.
- Open Challenges in Multi-Agent Security — Christian Schroeder de Witt et al. (24인), 2025, arXiv.
- AgentCity: Constitutional Governance for Autonomous Agent Economies via Separation of Power — Anbang Ruan, Xing Zhang, 2026, arXiv(사전등록 실험).
- Multi-Agent Collaboration Mechanisms: A Survey of LLMs — Khanh-Tung Tran, Dung Dao, Minh-Duong Nguyen, Quoc-Viet Pham, Barry O’Sullivan, Hoang D. Nguyen, 2025, arXiv 서베이.