트렌드 고객은 당신의 AI에 책임을 물을 것이다

요약

IBM의 세 번째 트렌드는 고객이 기업의 AI 사용 방식을 두고 책임을 따지게 될 것이라고 본다. 경영진의 95%는 자사 AI에 대한 소비자 신뢰가 신제품과 서비스의 성패에 단순히 영향을 주는 수준을 넘어 이를 결정한다고 답했다. 소비자는 AI의 불완전함에는 너그럽지만 89%가 AI가 관여할 때 이를 알고 싶어 하며, 숨긴 사실이 드러나면 신뢰가 무너지고 상당수가 브랜드를 바꾼다. IBM은 고객이 AI 안전 문제를 제기한 기업일수록 귀를 기울인 덕분에 더 큰 고객 가치를 만든다는 점도 발견했다. 그래서 설계 단계부터 투명성과 추적 가능한 추천을 넣고, 고객에게 데이터에 대한 세밀한 통제권을 주라고 권한다.