신호 연구진, 가중치만으로 CSAM 생성 AI 모델 탐지하는 방법 제안

요약

한 논문은 LoRA 파인튜닝을 통해 오픈 웨이트 이미지 생성모델을 저비용으로 손쉽게 커스터마이징할 수 있게 되면서 아동성착취물(CSAM) 제작에도 악용되고 있다는 문제를 다룬다. 기존 검열 방식은 조작 가능한 메타데이터나, 검열 목적이라도 생성 자체가 위법·부적절할 수 있는 생성물에 의존한다고 지적한다. 연구진은 LoRA 가중치 자체에서 도출한 더 안전한 신호를 제안하는데, LoRA 파라미터 업데이트의 상위좌측 특이벡터(이를 u1이라 명명)가 추론 없이도 모델이 학습한 가장 강한 변화를 압축적으로 지문화한다는 것이다. 인물 연령을 CSAM 관련 학습의 양성 대리지표로 사용해, u1이 특정 LoRA가 무엇으로 학습됐는지 식별하고 서로 다른 기반모델 간에도 일반화되며 무관한 양성 콘텐츠에는 반응하지 않음을 보였다. 이 신호는 가중치 노이즈 추가, 재스케일링, 수치 정밀도 저하에도 견고하다고 보고한다. 이 결과는 유해 LoRA를 메타데이터나 잠재적 유해물 생성 없이 가중치만으로 직접 선별할 수 있음을 시사한다.