신호 에이전트형 AI, 기존 거버넌스 프레임워크를 앞지르다

요약

에이전트 AI는 인간 의사결정을 보조하는 것이 아니라 독립적으로 실행한다. EU AI법도 NIST AI RMF도 설계 당시 이 방식을 상정하지 않아, 두 프레임워크 모두 예상하지 못한 특성을 가진 기술을 규율하게 됐다. 클라우드보안연합(CSA) 연구는 NIST AI RMF·ISO/IEC 42001·EU AI법 등 주요 프레임워크 어디에도 '에이전트'·'에이전틱'·자율 AI 시스템에 대한 언급이 없다는 점을 확인했는데, 이는 에이전트형 시스템이 외부 시스템에 작용하고 도구에 동적으로 접근하며 오류가 연쇄되는 다단계 계획을 실행하고 에이전트 간 위임을 통해 책임 소재를 분산시키기 때문이다. 싱가포르 IMDA는 2026년 1월 자율 에이전트를 위한 최초의 포괄적 거버넌스 프레임워크를 발표해, 각 에이전트가 검증 가능한 디지털 신원과 어떤 에이전트가 누구의 승인 하에 행동했는지를 기록하는 감사추적을 갖추도록 요구했다. NIST 산하 AI표준혁신센터는 2026년 2월 AI 에이전트 표준 이니셔티브를 출범시켰으며, 완전한 AI 에이전트 상호운용성 프로파일은 2026년 4분기 발표를 목표로 한다. AI 에이전트는 2025년 5% 미만이던 기업 애플리케이션 도입률이 2026년 40%에 이를 것으로 전망되는데, 분석가들은 이런 확산 속도가 인간 속도에 맞춘 심사 주기를 전제로 한 거버넌스를 앞지르고 있다고 지적한다.