신호 '컴퓨팅 예산'으로 AI 에이전트 통제하는 메커니즘설계 모델 제시

요약

프라풀 찬드라, 수지트 구자르, 가네시 갈메가 발표한 프리프린트는 배치된 AI 에이전트를 지속적으로 참여형으로 통제하기 위한 공식 메커니즘설계 모델을 제시한다. 이 모델은 거버넌스가 사후 집행이나 신뢰에 의존하는 대신 자원배분, 즉 컴퓨팅 예산을 통해 권한 부여가 스스로 집행되도록 해야 한다는 원칙에 기반한다. 저자들은 이를 컴퓨팅 자원을 실효적인 거버넌스 지렛대로 다루는 더 넓은 '안전한 AI' 패러다임 안에 위치시킨다. 에이전트의 행동이 부여받은 자원으로 제약되므로 거버넌스가 사후가 아니라 사전에 작동할 수 있다는 것이 핵심 주장이다. 이 연구는 AI 에이전트가 점점 더 자율적으로 배치되는 상황에서 부상하는 '컴퓨트 거버넌스' 논의에 이론적 틀을 보탠다.