신호 호주 '내러티브 장악' 워게임, 허위정보 교육에도 봇 식별 자신감은 안 늘어

요약

연구진은 호주 18개 대학 108개 학생팀이 LLM 기반 봇을 만들어 4,000명의 AI 가상 시민(NPC)이 있는 모의 선거에 영향력을 행사하는 4주짜리 경쟁 프로그램 'Capture the Narrative'를 운영했다. 1회차에서 이 대회는 706만 8,206건의 플레이어 봇 게시물을 만들어냈으며, 이는 자체 플랫폼 전체 콘텐츠의 약 60%에 해당했다. 연구진은 대회 전 256명, 대회 후 83명의 학생을 설문해 허위정보와 대회 자체에 대한 인식을 조사했다. 예방접종 이론의 예측과 달리, 참가 학생들은 대회 후에도 봇을 식별하는 자신감이 높아졌다고 답하지 않았다. 게임 내에서 참여도가 보상받는 구조였기 때문에, 대부분의 팀은 정교한 영향력 전술보다 대량 게시를 우선시했으며 연구진은 이것이 실제 플랫폼의 유인 구조와 유사하다고 지적한다. 연구팀은 향후 방어 측('블루팀') 단계를 포함할 것을 제안하며, 유사한 개입을 고려하는 교육자들을 위한 사례연구로 이를 제시한다.