신호 "인간중심 설계만으론 못 막는다" — 생성형 AI의 학습자 의존 심화에 해방적 설계 비전 제안

요약

이 논문은 생성형 AI의 행위주체적 기능이 커지면서 학습자가 전례 없는 생산성과 학습 향상을 기대할 수 있는 동시에 개인주의·과의존·의존 상태로 떠밀릴 위험도 커진다고 짚는다. 가치민감설계 같은 인간중심 설계 접근은 인간의 필요와 가치를 찾아내면 이런 위험을 막을 수 있다고 전제하지만, 저자들은 경제적 유인이나 가장 쉬운 길을 택하려는 인간의 성향 같은 더 넓은 구조적 요인에서 비롯된 위험까지는 다루지 못한다고 지적한다. 즉 설계자가 아무리 인간의 가치를 세심히 반영해도 시스템을 둘러싼 경제·행동적 압력을 바꾸지 않으면 의존 문제는 해소되지 않는다는 것이다. 이에 저자들은 생산성 지표만이 아니라 학습자의 '번영'을 목표로 삼는 해방적 생성형 AI 설계 비전을 제안한다. 이 제안은 설계 원칙을 넘어 AI가 학습자를 어떤 존재로 대우해야 하는지에 대한 방향 전환을 요구한다.