신호 AI 위험모델링의 기술적 기초에 관한 워크숍 미해결 과제

요약

첨단 AI 시스템이 초래하는 사회적 위험을 평가하기 위한 강건한 위험모델 설계는 AI 거버넌스에서 새롭게 부상하는 영역이다. 다수의 규제안이 체계적 위험평가를 점점 더 요구하고 있지만, 엄밀한 정량적 방법이 부재한 상태에서 실무상 최선의 위험모델링이 어떤 모습이어야 하는지는 여전히 미해결 질문으로 남아 있다. 연구진은 위험모델링 도입을 현재 제약하는 핵심 방법론적·제도적 과제를 식별하고, 확률적 위험평가·파국적 AI 위험 분석·사이버보안 위험 정량화·베이지안 인과추론·임계값 기반 거버넌스라는 5개 연구 전통을 검토했다. 시나리오 기반 위험추정과 베이지안 네트워크 기반 임계값 설정이라는 두 주요 제안을 비교했다. 22명의 전문가가 참여한 워크숍과 후속 분석을 토대로 모델 구조·범위·근거 통합·검증·거버넌스에 관한 미해결 질문들의 의제를 정리했다. 저자들은 향후 진전이 정량적 모델링을 독립적 평가, 투명하고 계층화된 공개, 시간이 지나도 위험모델을 유지·갱신할 수 있는 제도와 통합하는 데 달려 있다고 주장하며 마무리한다.