신호 기만적 모델 제공자에 대한 조작방지형 무자각 감사

요약

오귀스탱 고디노, 소피안 아조가그, 쥘리앙 페리, 세바스티앙 감스 연구진이 2026년 8월 5일 arXiv(cs.CY)에 알고리즘 거버넌스 감사의 근본적 취약점을 다루는 논문을 공개했다 — 감사가 사전 예고되거나 쉽게 감지되기 때문에 모델 제공자가 의도적·비의도적으로 과정을 조작할 수 있으며, 이는 제공자가 민감속성을 역추론해 집단 간 배분율을 전략적으로 맞춰 공정성 지표만 충족시킬 수 있는 공정성 평가에서 특히 두드러진다. 저자들은 감사자가 모델을 무자각(oblivious) 방식으로 질의할 수 있게 해 이런 조작의 사후 탐지 가능성을 크게 높이는 새 감사 프로토콜을 도입한다. 이 접근법은 프라이빗정보검색(PIR) 기법을 활용해 제공자가 대규모 사례 집합에 라벨을 붙이도록 요구하되, 그중 실제로 감사에 쓰일 부분집합은 알 수 없게 한다. 이 프로토콜은 효율적이고 감사자에게 최소한의 부담만 부과하며, 피감사 모델·훈련절차·추론 파이프라인에 어떤 수정도 요구하지 않는다. 저자들은 이 프로토콜하에서 불공정성을 숨기려는 제공자가 훨씬 많은 응답을 조작해야 해 조작의 난이도와 탐지 가능성이 동시에 높아진다는 이론적 보증을 제시하며, 대표적 감사 시나리오에 대한 실험 결과로 접근법의 효과성·실용성을 확인한다.