신호 그라이스적 후퇴를 향하여: LLM의 지식 경계와 지시대상 특정성 탐색

요약

대형언어모델은 자신의 지식 경계를 벗어난 대상에 대해 질문받으면, 더 안전하고 일반적인 답변으로 물러나기보다 그럴듯해 보이는 세부사항을 습관적으로 지어낸다 — 이는 환각의 핵심 원인 중 하나다. 저자들은 이 실패를 그라이스적 관점으로 설명한다. 협력적인 인간 화자는 특정 지시대상에 확신이 없을 때 특정성의 위계를 거슬러 올라가며 정보성을 희생하고 진실성을 택한다. 예컨대 틀린 특정 도시를 짚는 대신 '유럽의 한 도시'라고 말하는 식이다. 이 논문은 현재의 LLM이 지어내는 대신 이런 우아한 인식론적 후퇴를 하는 데 필요한 내적 요소 — 지식 경계 인식과 지시대상 특정성 제어 — 를 갖췄는지 탐색하며, 이는 환각 완화와 신뢰할 수 있는 AI 배포에 직접 관련된다.