가장 중요한 반증
Agent Behavioral Contracts II: Certifying Compositional Reliability Without Assuming Independence (8월 13일)
멀티에이전트 신뢰도를 계산할 때 흔히 쓰는 **"각 에이전트의 실패는 서로 독립적"**이라는 가정을 직접 검증했다. 동일 모델 두 개를 연결한 2단계 인계 구조에서, 둘 중 하나라도 실패한 작업의 90%에서 실패가 함께 발생했다.
같은 모델을 여러 개 붙이는 것은 생각만큼 이중화가 되지 않는다.
"에이전트 3개를 돌리면 1개보다 안전하겠지"라는 직관에 대한 강한 경고다. 같은 종류의 모델은 같은 곳에서 함께 틀린다.
그래서 방향이 바뀐다 — 연결을 줄인다
HELENA: Hierarchical Sparse Coordination (8월 5일 공개, arXiv 번호는 확인하지 못했다)은 하나의 고정된 협업 구조를 쓰지 않고, 여러 후보 구조를 결합한 뒤 현재 문제에 필요한 에이전트와 연결만 선택적으로 활성화한다. 에이전트들은 압축된 요약 정보를 교환해 불필요한 정보 확산을 줄인다. 8개 벤치마크에서 평균 +3.47점, MMLU-Pro에서 최대 +10.34점.
RGA-Designer (8월 20일)는 통신 그래프를 자동 설계하되 정확도뿐 아니라 그래프의 희소성에도 보상을 준다. 비슷한 정확도를 유지하면서 토큰 사용량을 평균 20.5% 줄였다.
MANTA (7월 30일)는 역할, 연결 구조, 실행 순서, 정보 공개 범위, 검증 경로를 실행 중에 바꾼다. 5개 벤치마크 평균 74.0점으로 가장 강한 비교 방식보다 5.8%p 높았다.
공통된 결론은 이것이다. 경쟁은 **"에이전트를 몇 개 쓰느냐"가 아니라 "필요한 에이전트끼리만 언제 연결하느냐"**로 넘어갔다.
언제 공유할 것인가
AgentRadio: Passive Awareness for Long-Horizon Multi-Agent Collaboration (7월 30일)은 다른 각도를 짚는다. 기존 구조에서는 실행 도중 발견한 정보를 다음 협업 단계까지 공유하기 어렵다.
이 논문은 여러 코딩 에이전트가 작업을 멈추지 않고 백그라운드 메시지로 중간 발견을 공유하는 비동기 구조를 제안했다. SWE-Atlas QnA에서 단일 에이전트 32.3% → 4개 구성 62.1%.
멀티에이전트의 효과가 단순한 역할 분담보다 작업 중 실시간 정보 공유와 방향 수정에서 나올 수 있음을 보여준다.
누구 말을 더 믿을 것인가
Sigma-Mem: An Online Reliability Memory (7월 30일)은 각 에이전트가 어떤 조건에서 얼마나 믿을 만했는지를 누적 저장하는 신뢰도 메모리를 제안했다. 에이전트 선택, 응답 조정, 가중 투표에 활용하며 재학습 없이 갱신된다.
단순 다수결을 넘어 과거 성과에 따라 누구의 말을 더 믿을지 판단하는 구조다.
텍스트를 거치지 않는 통신 — 그리고 그 위험
지금 멀티에이전트는 사실상 이렇게 동작한다.
에이전트 A의 생각 → 문장 → 에이전트 B가 다시 해석
StateBridge (8월 13일, COLM 2026 채택)는 중간의 언어 변환을 건너뛴다. 별도 학습 없이 한 에이전트의 은닉 상태를 다른 에이전트가 직접 받을 수 있는 표현으로 변환한다. 26개 조합 중 22개에서 최고 또는 공동 최고 성능이었다.
그런데 이 방향이 발전하면 바로 문제가 생긴다.
- 텍스트 통신 → 사람이 감사 가능
- 은닉 상태 통신 → 무엇을 주고받았는지 사람이 볼 수 없음
Beyond the Transcript: Detecting Covert Coordination in Latent Multi-Agent Communication (8월 19일)은 이 위험을 정면으로 다룬다. 공개된 대화만 보는 대신 잠재 표현을 감시하고, 행동에 실제 영향을 주었는지 반사실 검사로 확인한다. 통제된 경매 실험에서 동종 모델 담합 탐지 AUROC 0.993, 이종 모델 0.854.
멀티에이전트 안전이 대화 로그 검사만으로는 충분하지 않을 수 있다는 뜻이다.
조직 자체를 만든다
Eureka: Task-Conditioned Meta-Agent Orchestration (8월 19일)은 고정된 구조로 모든 문제를 풀지 않고, 작업마다 필요한 에이전트·메모리·도구·검증자·통신 구조를 즉석에서 구성한다. 활성 컨텍스트를 중앙값 9,490 → 4,005 토큰으로 줄이고, 12,000개 작업에서 재계산의 65.38%를 회피했다.
(62쪽짜리 preprint이고 과학적 발견에 관한 강한 주장까지 포함하고 있어, 시스템 결과와 성과 주장은 분리해서 볼 필요가 있다.)
Unified Agent: Managing Interactions across Devices (8월 6일)는 반대 방향이다. 여러 기기와 시간대를 오갈 때 독립 에이전트를 여럿 두기보다, 사용자의 요청·관찰·상태를 압축해 계속 들고 다니는 하나의 상태 유지형 에이전트가 낫다고 보고했다.
기업 관점에서의 층위
The CASE Framework (8월 10일)는 기업 에이전트 안전을 하나의 가드레일 문제로 보지 않고 개별 에이전트 → 멀티에이전트 집단 → 인간-에이전트 팀 → 대규모 에이전트 fleet 네 층으로 나눈다.
조사한 실제 생산 환경 실패의 82%가 여러 계층에 걸친 실패였고, 조사한 22개 도구 중 멀티에이전트의 창발 행동을 충분히 관리하는 것은 없었다.
(실험 논문이라기보다 거버넌스·아키텍처 연구라는 점은 구분해서 봐야 한다.)
그래서 무엇을 다르게 할 것인가
1. 같은 모델을 여러 번 돌려 교차 검증하지 않는다
같은 모델은 같은 곳에서 함께 틀린다. 확인이 목적이라면 다른 계열의 모델이나 기계적 검증(테스트, 계산, 원본 대조)을 섞는다.
2. 에이전트를 늘리기 전에 연결을 정한다
누가 누구에게 무엇을 언제 넘기는지가 정해지지 않은 채 수만 늘리면 비용만 오른다.
3. 여러 도구를 엮을 때 중간 결과를 사람이 볼 수 있게 둔다
에이전트끼리 주고받은 내용이 로그로 남지 않으면 문제가 생겼을 때 원인을 찾을 수 없다.