신호 The Singapore Consensus on Global AI Safety Research Priorities (arXiv:2506.20702)

요약

11개국 100명 이상의 AI 전문가가 AI 안전 연구 우선순위에 합의했고, 이는 싱가포르 AI 콘퍼런스를 계기로 '싱가포르 합의'라는 이름으로 발표됐다. 이 문서는 요슈아 벤지오와 87명의 공동 저자가 작성했으며, 벤지오가 의장을 맡고 33개국 정부가 지원한 '국제 AI 안전 보고서'를 토대로 한다. 이 합의는 2025년 4월 열린 '2025 싱가포르 AI 콘퍼런스(SCAI): AI 안전에 관한 국제 과학 교류'에서 도출됐다. 연구 우선순위는 신뢰할 수 있는 AI 시스템 개발, 위험 평가, 배치 이후 모니터링·개입을 통한 통제라는 3개 범주로 구성된 '심층방어(defence-in-depth)' 모델로 조직됐다. 보고서는 신뢰할 수 있는 생태계 구축이 사람들이 AI를 자신 있게 수용하도록 돕고 반발을 피하면서 혁신의 여지를 최대화하는 데 필수적이라고 밝힌다.