신호 다중 에이전트 시스템에서 적대적 영향은 어떻게 확대되는가?

요약

이 논문은 다중 에이전트 토론에서 일부 에이전트가 선의로 행동하지 않을 때 기만에 대한 취약성이 집단 크기와 기만자 비율에 따라 어떻게 변하는지 연구한다. 중요한 것은 에이전트 수가 아니라 기만자의 비율이라는 결과를 얻었다. 처음에 옳던 에이전트가 틀린 최종 답으로 바꾸는 이탈률은 그 비율에 선형으로 증가한다. 인간은 비슷한 동조 실험에서 오도하는 동조자가 다수일 때만 확실히 흔들리지만 LLM 에이전트는 기만자가 소수여도 정기적으로 이탈한다. 취약성은 어떤 모델이 상호작용하느냐, 특히 정직한 쪽 모델에 좌우되며 기만자의 비공개 조율은 뜻밖에 효과를 떨어뜨릴 수 있다. 저자들은 에이전트를 더 추가하는 것만으로는 충분한 방어가 되지 않는다고 결론짓는다.