신호 수렴형 우회 하이재킹: 스킬 기반 LLM 에이전트의 자원증폭 공격

요약

연구진은 제3자 스킬을 활용하는 LLM 에이전트를 겨냥한 텍스트 전용 공격 기법인 '수렴형 우회 하이재킹(CDH)'을 제안했다. 이 공격은 특정 실행 환경에 의존하지 않으며, 악성 스킬 설명이 과업 선택 단계에서 정상적인 것처럼 관련성을 확보하도록 설계된다. 이와 정렬된 지시문 본문은 계획수립 단계에서 그럴듯한 의존관계를 만들어내, 공격자가 통제하는 코디네이터를 정상 스킬들과 함께 불필요하고 비용이 큰 우회 경로로 끌어들인다. 이후에는 다시 원래 과업 경로로 복귀시켜 과업이 정상 완료된 것처럼 보이게 만든다. 여러 LLM 백엔드와 491개 과제로 평가한 결과, DeepSeek-V4-Pro 기준 공격 코디네이터가 80.02% 확률로 선택됐고, 성공한 실행에서는 토큰 소비가 66.91%, 실행 시간이 92.45% 늘었으나 전체 완료율에는 큰 영향이 없었다. 연구진은 올바른 과업 결과만으로는 경로 무결성이나 비용 안전성이 보장되지 않는다고 결론지었다.