이슈 인간과 AI가 함께 일으킨 실패의 책임 배분

요약

이 이슈는 사람과 AI가 함께 작동하는 시스템에서 문제가 생겼을 때 누가 책임을 지는가를 묻는다. EY는 판단과 행동이 사람과 기계 사이에 나뉘어 있으면 책임 소재를 가리기가 복잡해진다고 지적한다. 그래서 조직에는 사람과 기계 각각이 어떤 책임을 지는지 명확히 정한 체계가 필요하다고 본다. 이 체계는 동시에 중요한 결정에 대해 사람이 감독권을 유지하도록 보장해야 한다. EY는 이 문제를 신경 데이터 보호, 증강 기술 접근의 불평등과 함께 인간-기계 혼종이 불러오는 사회·정책·규제 과제의 하나로 다룬다. 책임 규칙이 분명하지 않으면 혼성 시스템을 신뢰하거나 널리 확대하기 어려울 수 있다.