신호 에이전트형 AI가 맡은 일이 늘기도 전에 운영 위험부터 키운다

요약

2028년에는 스스로 판단해 움직이는 AI 에이전트가 사이버 보안부터 실시간 시스템 감시까지 하루 업무의 최대 15%를 맡게 될 수 있다는 전망이 나온다. 아마존웹서비스(AWS)는 AI 시스템이 가진 행위 주체성의 정도에 따라 에이전트형 AI의 위험을 분류하기 시작했다. 그 분류는 주체성이 없는 단계, 정해진 범위 안에서 움직이는 단계, 사람의 감독을 받는 단계, 완전한 자율 단계로 나뉜다. 그런데 에이전트가 맡는 일이 본격적으로 늘기도 전에 위험은 이미 현실이 되고 있다. 한 조사에서는 조직의 80%가 AI 에이전트 때문에 운영 위험이 커졌다고 답했으며, 그 내용은 허가받지 않은 접근부터 데이터 노출까지 다양했다.