신호 TRAJDEBUG, 장기 AI 에이전트 궤적의 오류 생명주기 추적해 근본원인 규명

요약

윤지아 치, 저화 인, 신퉁 시, 하오 펑 등이 발표한 프리프린트는 LLM 기반 에이전트 시스템이 복잡한 영역에서 뛰어난 역량을 보이면서도 연쇄적 오류와 디버깅의 어려움을 겪는다고 지적한다. 치명적 오류 탐지는 실패한 궤적에서 최종 실패를 일으킨 최초 오류 단계를 찾는 것을 목표로 하지만, 긴 궤적일수록 개별 오류를 가려내기 어렵고 오류가 관찰 가능한 실패로 드러나기 전에 전파·증폭될 수 있다는 두 가지 난제에 부딪힌다. 저자들은 장기 에이전트 궤적에서 오류의 생명주기를 추적해 치명적 실패지점을 더 정밀하게 짚어내는 방법 TRAJDEBUG를 소개한다. 이 방법은 복잡한 다단계 AI 에이전트 행동의 디버깅을 더 다루기 쉽게 만드는 것을 목표로 한다. 저자들은 이를 향후 에이전트 시스템 신뢰성 개선의 도구로 제시한다.