이슈 섀도 AI가 자율 의사결정을 거버넌스 울타리 밖에 둔다

요약

딜로이트는 오늘날 가장 시급한 AI 위험 상당수가 조직 내부에서 비롯된다고 경고하며 그 대표 사례로 섀도 AI를 든다. 섀도 AI는 기업 곳곳의 개별 팀이 승인 없이 도입한 AI를 가리킨다. 이는 거버넌스의 사각지대를 만들고, 민감한 데이터에 접근하며 중대한 결정을 내리고 다른 시스템과 상호작용하는 자율 의사결정 시스템을 끌어들인다. 이런 배치 하나하나가 데이터 유출, 모델 조작, 모델 성능 변질, 무단 접근의 잠재적 통로가 된다. 보고서는 네트워크를 감시해 모든 애플리케이션을 찾아내고 새 배치가 개인정보·보안 기준을 지키도록 정책을 두는 등 섀도 IT 대응 방식을 응용할 수 있다고 본다. 섀도 AI는 에이전트형 AI에 대한 통제 부족과 함께 양대 내부 위험으로 제시된다.