신호 참여형 시스템매핑으로 AI 거버넌스 공동구축하기

요약

연구진은 네덜란드 한 도시의 복지수급 자격심사 의사결정지원 도구용 알고리즘 등록부를 사례로, 등록부가 알고리즘 거버넌스 구조에 대해 무엇을 드러내고 감추는지 분석했다. 시청 직원, 시민사회단체, 옴부즈맨 등 8명이 인터뷰와 설문, 참여형 시스템매핑 워크숍에 참여했다. 이를 통해 등록부만으로 이해관계자들이 시스템을 얼마나 파악할 수 있는지 평가했다. 워크숍 결과는 시스템이론적 공정성 분석에 반영됐다. 그 결과 복지수급 부당거부, 시스템 성능저하, 부당결정에 대한 이의제기 불가 등 등록부만으로는 드러나지 않았을 위해 요소가 식별됐다. 저자들은 알고리즘 거버넌스의 규범적 차원과 정치가 시스템 안전분석 실무를 어떻게 형성하는지 성찰했다.