이슈 감정 AI가 사회 기반시설로 들어오며 프라이버시·진정성 규범이 시급해진다

요약

NTT데이터는 감정 AI가 개별 제품의 기능을 넘어 사회 기반시설의 일부가 되면 그만큼 위험도 커진다고 경고한다. 돌봄과 교육, 공공 행정 같은 서비스에 이런 시스템이 깊이 들어갈수록 윤리적 설계를 더는 미룰 수 없다는 것이다. 보고서는 프라이버시를 지키고 진정성을 보장하며 인간의 주체성을 보존하는 확고한 규범을 요구한다. 이 우려는 몸짓과 말투, 감정 상태를 읽고 사람처럼 반응하는 기계에 대한 보고서 자신의 설명에서 나온다. 규범이 없으면 신뢰를 쌓으려고 만든 시스템이 오히려 조작의 도구가 되거나 사람들이 자기 감정 데이터를 통제할 힘을 잃게 만들 수 있다. 이 쟁점은 감정 신호와 정서적 영향력을 규제 당국이 어떻게 다룰지에 관한 뒤쪽 시나리오로 이어진다.