이슈 의사결정에 AI를 들이는 속도가 조직의 감독을 앞질러 간다

요약

딜로이트는 의사결정에서의 AI 활용이 조직의 감독 능력보다 빠르게 나아가고 있을 수 있다고 경고한다. AI는 근본적으로 새로운 기술이어서 고유한 문제를 낳는다. 알고리즘이 불투명하면 결정에서 결과까지 책임을 추적하기 어렵고, 사람들은 AI가 내린 결정에 주인의식을 덜 느끼며 결정을 맡길 때 덜 정직해질 수도 있다. AI 에이전트는 기존 통제를 버겁게 할 만큼 빠르고 큰 규모로 움직이는데, 많은 관리자는 AI를 감독할 준비가 안 돼 있고 임원들도 감독에 기여할 만한 AI 이해도가 부족하다. 조직에는 실제로 작동하는 윤리 틀도 없는 경우가 많다. 보험사들은 기업의 AI 사용을 보장하려 하지 않고, 규제 요건도 계속 바뀐다.