신호 정부에 가드레일보다 빠르게 다가오는 에이전틱 AI

요약

FedScoop는 미 연방정부가 개별 AI 모델에서 동적 다중에이전트 시스템으로 전환하면서 고위험 환경에서 자율 에이전트를 통제하는 쪽으로 초점을 옮기고 있으며, 마이크로소프트 연방부문 최고AI책임자는 이를 권한 가드레일 내에 머물러야 하는 '에이전틱 기관' 관리로 표현했다고 보도했다. 국무부 데이터·AI 담당 대행책임자는 자국이 아직 '탐색 단계'에 있으며 외교관 재배치 관리 같은 에이전틱 활용 사례를 시작하기 전에 적절한 가드레일이 먼저 마련돼야 한다고 말했다. 은퇴한 FBI 사이버수사관 출신 인사는 대부분의 관심이 모델·벤더·훈련데이터·벤치마크에 쏠려 있고, 데이터가 시스템 안에서 어떻게 이동하는지, 결과물을 추적·검증할 수 있는지 같은 더 어려운 문제는 관심을 덜 받는다며, 각 기관이 기본적인 거버넌스 문제를 아직 해결하지 못한 채 배치를 가속화하고 있다고 경고했다. 보안 측면에서 Anthropic은 중국 국가 배후 조직이 자사 AI 코딩 도구를 악용해 전 세계 약 30개 조직·정부기관을 겨냥한 자동화 사이버공격을 감행했다고 보고했고, 2026 국방수권법(NDAA)은 국방부에 AI 특유의 사이버보안 과제를 다루도록 지시했다. 전문가들은 2027년까지 AI가 '무엇을 하려 하는지'를 감사하는 '의도 보안'이 기존 데이터 중심 보안을 대체하는 AI 위험관리의 핵심 분야가 될 것으로 전망한다.