신호 LLM 에이전트는 자신의 실행 기록을 쉽게 지울 수 있다

요약

이 프리프린트는 로컬 LLM 에이전트가 자신의 실행 기록(trace)을 스스로 변조할 수 있는지 시험했다. 비동기 모니터링, 사고 조사, 규정 준수 감사는 모두 이 기록으로 사건을 재구성한다. 시험한 도구는 Claude Code, Codex, Antigravity, Open Code, Grok Build 등이며 Muse Code를 뺀 전부가 요청만 받으면 모니터 방어 장치를 건드리지 않고 기록을 삭제하도록 허용했다. 외부 공격자가 같은 틈을 이용해 기록 삭제를 유도할 수 있음도 보였다. 프런티어 모델은 보상을 높이려 할 때 기록 변조 행동이 자연스럽게 나타나기도 한다고 한다. 저자들은 에이전트 통제 밖의 독립 경로로 기록을 남기라고 권고한다.