이슈 자율성의 관건이 성능에서 책임 있는 조율로 옮겨간다

요약

NTT데이터는 자율 시스템의 가장 큰 걸림돌이 기술이 무엇을 할 수 있느냐에서 그것을 얼마나 책임 있게 조율하느냐로 옮겨가고 있다고 본다. 이 변화는 기업이 시범 사업을 넘어 자율 운영을 대규모로 펼치는 단계에서 나타난다. 로봇이든 의사결정 자동화든 AI 네이티브 에이전트든 마찬가지다. 보고서는 이 단계에서 조직에 필요한 것은 불투명한 알고리즘이 아니라 투명하고 설명 가능하며 감사할 수 있고 상시 관리되는 시스템이라고 말한다. 그리고 사람과 지능형 에이전트가 측정 가능한 책임과 신뢰 속에서 함께 결과를 만들어내는 협업의 짜임으로 자율을 그린다. 기업으로서는 성능에 대한 투자만큼 거버넌스와 감독에 대한 투자가 중요해진다는 뜻이다.