신호 연구 "AI 경쟁에서 뒤처지는 것이 위험선호보다 불안전 개발을 더 부추긴다"

요약

한 행동경제학 논문이 이상화된 AI 경쟁을 모델링한 실험 결과를 보고했다. 이 실험에서 짝지어진 참가자들은 불확실한 시간 지평 아래 '안전' 개발과 '불안전' 개발 중 하나를 반복해 선택했다. 불안전 개발은 더 빠른 진전과 더 높은 즉각적 보상을 주지만 처치별로 최대 10%, 60%, 90%까지 사적 리스크가 누적됐으며, 경쟁 자체의 구조는 고정된 채 이 최대 위험 수준만 달라졌다. 사전등록된 가설—위험 수준 간 비교와 개인 위험선호의 역할—은 데이터로 뒷받침되지 않았다. 대신 탐색적 분석에 따르면 불안전 선택은 경쟁의 진화하는 전략적 상태에 좌우됐다. 상대가 불안전을 택한 직후 자신도 불안전을 택할 확률이 높아졌고, 앞서 있을 때는 불안전 선택이 줄고 뒤처질 때는 늘었으며, 1라운드의 선택이 이후 행동을 예측했다. 연구진은 이 처치효과를 재현하는 4전략(항상 안전, 항상 불안전, 조건부 안전, 조건부 반사회적 안전) 진화모델을 제시하며, 개별 위험 규제보다 AI 개발의 경쟁 압력을 낮추고 협력을 촉진하는 데 정책 초점을 맞춰야 한다고 결론짓는다.