신호 전문가 93명 서베이…AI 안전성 평가서 '인간연구' 소외되는 이유 조사

요약

제시카 Y. 보, 파울라 아케미 아오야구이, 샬랄레 리스마니, 딥토 다스 등이 발표한 프리프린트는 AI의 안전 위험이 인간과 AI 기술의 상호작용에서 점점 더 뚜렷해지고 있다고 지적한다. 그럼에도 이러한 위험을 평가하는 주된 접근법은 모델 벤치마크와 LLM 시뮬레이션 같은 기술적 방법에 치우쳐, 인간 피험자를 통한 실증연구를 소외시키는 경향이 있다고 진단한다. 이러한 격차를 검증하기 위해 저자들은 응답자 93명을 대상으로 전문가 서베이를 실시하고 후속 전문가 인터뷰를 진행했다. 연구는 인간 피험자 연구가 벤치마크가 놓칠 수 있는 실세계 상호작용 위험을 포착할 잠재력이 있음에도 AI 안전·윤리 평가에서 충분히 활용되지 못하는 인식론적 적합성과 구조적 장벽을 조사한다. 이를 통해 기술 중심 평가 방법과 인간 중심 실증연구 사이의 수용성 격차가 드러난다.