신호 정치권력 교체기의 AI 거버넌스: 컴플라이언스 설계의 정렬 표면 (arXiv:2604.21103)

요약

앤드루 J. 피터슨이 낸 한 연구는 정부 준법 체계에 내장된 AI 시스템이 정치 권력 교체기에 전략적으로 이용될 위험을 형식 모델로 제시한다. 이 모델은 자동화의 범위, 성문화의 정도, 반복 사용에 대한 안전장치라는 세 가지 제도적 선택지를 분석한다. 피터슨은 AI를 쓰기 쉽게 만드는 일이 곧 미래 정부가 그 절차를 배우고 악용하기 쉽게 만드는 일이 될 수 있다고 썼다. 그는 처음에는 감독을 개선하는 개혁이 나중에는 오히려 그 취약성을 키울 수 있다는 역설을 짚었다. 투명성과 법적 방어를 위해 만든 준법 레이어가, 후임 권력이 합법적 통치의 외양을 유지한 채 익혀서 통과할 수 있는 안정된 경계가 될 수 있다는 것이다.