신호 KAIST, 134가지 공격 유형 탐지하는 AI 보안 프레임워크 공개

요약

KAIST 김준모 교수 연구팀이 대형언어모델(LLM) 등 생성형 AI의 숨겨진 취약점을 찾아내는 새로운 AI 안전성 검증 기술 'Stable-GipflowNet'을 개발했다. 연구팀에 따르면 이 기술은 기존 레드티밍 기법 대비 약 7배 더 다양한 취약점을 찾아낸다. 이 기술은 기존 레드티밍 방식의 한계인 모드 붕괴(특정 공격 패턴만 반복 생성하는 현상)와 연산 불안정성을 극복하도록 설계됐다. 이 프레임워크는 134가지에 달하는 이례적으로 광범위한 적대적 프롬프트를 생성할 수 있다. 개발진은 배포 전 체계적으로 식별 가능한 취약점의 범위를 넓힘으로써 이 기술이 AI 시스템의 선제적 방어와 신뢰성 향상에 기여할 것으로 기대하고 있다.