신호 서로 다른 AI 의식 이론들의 '불협화음'을 정리할 위계적 평가 틀 제안

요약

이 논문은 AI 의식에 관한 논의가 서로 엇갈리는 경쟁 이론들 때문에 진전을 보지 못했다고 진단하며, '어려운 문제'를 떼어놓고 시스템의 경험 생성 조직이 어느 기술 단위에 있는지를 묻는 다루기 쉬운 질문으로 재정식화한다. Marr의 3단계 분석을 행동적·계산적·내재적 인과구조적·유기체적·유기체-환경적 5단계 위계로 확장하고, 주요 의식 이론들을 각 이론이 결정적으로 보는 단계에 따라 배치한다. 각 단계별로 조작 가능한 지표를 개발해 현재 AI 시스템을 평가한 뒤, 이론적 신뢰도와 지표 증거를 베이지안 모델로 결합해 종합 확률을 산출한다. 현재 LLM에 적용한 결과 이론적 가정과 증거 해석에 따라 0.01 미만에서 약 0.8까지 크게 갈려, 초기 가정에 대한 민감도가 매우 높음을 보여준다. 저자들은 각 단계의 의식 지표가 범용지능에 필요한 아키텍처 특성과 상당 부분 겹친다며, 능력이 커지는 AI일수록 의식의 유력 후보가 될 수 있다고 지적한다. 이들은 확정 판정 대신 이론적 전제를 명시하고 평가를 집계된 확률로 표현하는 '구조화된 불가지론'을 지지한다.