신호 에이전트가 당신을 배울 때: 페르소나 스킬의 프라이버시 유출·사칭 위험·방어 벤치마킹

요약

용리 샹 등 연구진이 2026년 8월 4일 arXiv(cs.CY)에 개인의 상호작용 이력을 이식 가능한 실행형 아티팩트로 압축한 'AI 에이전트용 페르소나 스킬'의 프라이버시·사칭 위험을 평가하는 벤치마크 'AntiSkillBench'를 소개하는 논문을 공개했다. 이 벤치마크는 50개 행동 특성이 풍부한 프로필에서 만든 페르소나 기반 대화 트레이스 7,500건 데이터셋, 3가지 스킬 증류 전략에 걸쳐 스킬 단위 프라이버시 유출과 에이전트 단위 속성 노출·행동 사칭을 측정하는 평가 스위트, 온라인·사후 개입을 아우르는 4가지 구성의 방어 평가로 구성된다. 3개 프론티어 에이전트 실험 결과 페르소나-스킬 위험은 에이전트 백본이나 증류 프로토콜과 무관하게 지속되며, 명시적인 개인 속성뿐 아니라 말투와 성격 특성까지 노출됨을 확인했다. 기존 방어책은 효과가 제한적이고 증류 전략에 따라 편차가 커 서로 다른 위험 유형과 증류 전략에 걸쳐 일반화되지 않았다. 저자들은 AntiSkillBench를 프라이버시 보호형·진위인식형 페르소나 스킬 개발을 위한 도전적 벤치마크로 제시한다.