신호 비대칭 소통 — 대형언어모델과 언어게임

요약

한 논문은 현재 AI 담론이 실체와 무관한 인지로서의 일반지능, 인지적 실패로서의 환각, 자율적 목표추구로서의 에이전시, 창발적 내적 삶으로서의 감응성, 목표 동기화로서의 정렬 등 언어모델이 실제로 가질 수 없는 속성들을 부여하고 있다고 주장한다. 이는 인간의 소통 실천 속에서 구성되는 속성을 기계 쪽에 투사하는 하나의 범주 오류의 여러 사례라고 논증한다. 논문은 인간-LLM 상호작용을 저자가 '비대칭 소통'이라 부르는 언어게임으로 규정하며, 이 구도에서는 인간 쪽만이 모든 규범적 활동을 담당하고 모델의 산출물은 시스템이 어떤 약속이나 권리도 지지 않은 채 소통적으로만 유통된다. 이 비대칭성을 규정하는 세 가지 구조적 조건은 다음과 같다 — 정확성은 오로지 수신자에 의해서만 판정되고, 책임은 오로지 인간 참여자만이 부담하며, 산출물의 실질적 지위는 전적으로 인간의 수용 여부에 좌우된다. 이 프레임워크는 비트겐슈타인·루만·에스포지토·브랜덤의 이론적 자원을 결합하며, 저자는 이 조건들이 모델의 능력과 무관하게 성립하고 더 강력한 모델이 오귀속의 위험을 키우더라도 변하지 않는다고 밝힌다. 논문은 AI 정렬을 에이전트 간 목표 동기화가 아니라 제도적 제약 설계로 이해해야 하며, 책임은 인간 제도에 남는다고 결론짓는다.