신호 AI가 대신 일할 때, 학습은 무엇을 위한 것인가 — 포스트-도구적 학습과 역량 해체의 위험

요약

한 논문이 AI 시스템이 에세이·코드·보고서·요약·계획·의사결정 등 기관이 전통적으로 역량 인정의 근거로 삼아온 산출물들을 만들어낼 수 있게 되면서 '학습은 무엇을 위한 것인가'라는 질문을 다룬다. 저자들은 기존 AI 윤리 논의가 편향·불투명성·환각·노동 착취·프라이버시 위험·취약한 책임성 같은 현재의 결함들을 강조하지만, 학습의 존재 이유가 오직 이러한 결함들에만 근거한다면 AI의 기술적 개선이 이뤄질 때마다 그 논거가 약화되는 것처럼 보일 것이라고 지적한다. 목적·정당성·책임에 대한 권한은 없이 지정된 과제만 완벽하게 수행하는 AI라는 이상화된 모델을 사용해, 유용한 산출물 다수를 AI에 위임할 수 있을 때에도 사람과 기관에 필요한 역량을 보존하는 학습인 '포스트-도구적 학습' 개념을 제시한다. 이러한 역량으로 목표설정·근거제시·이의제기가능성·거부와 수정·참여 다섯 가지를 규명하고, 이 역량들의 침식을 '역량 해체'로 명명한다. 핵심 사례로 다룬 것은 생성형 AI 하의 평가로, 잘 다듬어진 산출물이 더는 이해도를 신뢰성 있게 입증하지 못할 때 기관은 산출물 자체가 아니라 학습자와 AI 매개 작업 사이의 책임 있는 관계를 평가해야 한다고 주장한다. 논문은 AI 거버넌스가 시스템의 성능뿐 아니라 그 배치가 사람들에게 그 시스템이 매개하는 실천을 이해·도전·수정하고 책임을 공유할 능력을 남기는지도 평가해야 한다고 결론지으며, 스웨덴 말뫼에서 열리는 AIES 2026 학회에 게재가 확정됐다.