이슈 신뢰 계약 — 설명하고, 묻고, 실행하되 단계마다 사람이 통제한다

요약

이 이슈는 통제권, 설명, 프라이버시, 표시에 관한 캡제미니의 조사 결과를 소비자 AI가 받아들여지기 위한 하나의 조건으로 묶는다. 76%는 비서가 행동하기 전에 엄격한 한계를 정하길 원하고, 66～69%는 설명이 분명할 때 AI를 더 믿는다. 71%는 불분명한 동의와 데이터 오용을 크게 걱정한다. 67%는 AI가 만든 광고와 콘텐츠에 표시가 붙기를 원한다. 보고서는 이를 합쳐 AI가 설명하고, 허락을 구한 뒤, 실행하되 모든 단계에서 사람이 통제하는 '신뢰 계약'이라 부른다. 자동 재주문 같은 AI 행동 전에 쉬운 말로 이유를 보여 주고 한 번의 승인이나 미리 정한 한도를 따르라고 권한다.