신호 논문 "범용AI 시대, 공공부문 AI 거버넌스 틀 무너져" — 치안 사례로 논증

요약

한 논문은 프롬프트만으로 사실상 무한한 범위의 과업을 지시할 수 있는 범용AI(GPAI)가 그동안 공공부문 AI 안전을 확보해온 전제조건들을 무너뜨린다고 주장한다. 공공서비스 거버넌스 프레임워크가 전면에 내세우는 정확성·편향·설명가능성·책무성 같은 안전 개념은 좁은 목적특화형 AI에서만 다루기 쉬웠고, 지침 문서가 처방하는 완화조치들은 GPAI가 정확히 제거해버리는 전제에 의존한다고 지적한다. 저자들은 거버넌스 실패의 파장이 가장 큰 사례로 치안 분야를 들며, 무한한 출력에 대해서는 정확성을 정량화할 수 없고 자유텍스트 판단에는 편향을 분해할 수 없으며, 설명가능성은 '설명하는 듯한 외양'으로 전락하고 출력이 설득을 목적으로 최적화되면서 책무성이 침식된다고 주장한다. 현재 치안 AI 전략을 지배하는 2대 완화책 — 전문가 평가와 인간개입 감독 — 모두 GPAI가 위반하는 전제에 의존한다고 논증한다. 연구진은 거버넌스 문서에 좁은AI와 범용AI를 명확히 구분할 것, 기술적 절제를 선호할 것, 충분한 증거가 마련될 때까지 치안 분야 GPAI 운영배치를 유예할 것, 그 증거를 생성할 권한을 가진 조율된 국가 안전 인프라를 구축할 것을 권고한다.