이슈 AI가 물리적 힘을 쓰기 시작하면 과신은 되돌릴 수 없게 된다

요약

오하이오주립대 공대 학장 아야나 하워드는 딜로이트 인터뷰에서 사람들이 AI를 믿는다고 말하는 것과 실제 행동 사이에 큰 차이가 있다고 설명한다. 그의 연구에서 참가자들은 일부러 실수하도록 설계된 로봇과 함께 일한 뒤 믿을 수 없다고 답했지만, 실제 행동은 로봇에 기대고 있었다. 하워드는 AI가 몸을 갖게 되면 이런 행동상의 과신이 위험해진다고 경고한다. 로봇은 주변에 물리적 힘을 가하므로 그 결과를 되돌리지 못할 수 있기 때문이다. 대화형 AI에서는 1～2초 지연이 괜찮지만 걷는 로봇에게는 물건을 떨어뜨리거나 부딪치고 사람을 다치게 하는 원인이 된다. 그는 안전을 완전히 보장하지는 못해도 어딘가에 늘 사람이 개입해야 과신을 줄일 수 있다고 강조한다.