이슈 물리 시스템에서는 작은 오류율이 낭비·불량·안전사고로 번진다

요약

딜로이트는 신뢰할 수 있는 AI와 안전을 피지컬 AI의 별도 장벽으로 다룬다. 소프트웨어에서는 받아들일 만한 오류 허용치도 기계가 현실에 작용하는 순간 큰 비용이 되기 때문이다. 아주 작은 오류율도 물리 시스템 안에서 연쇄적으로 번져 생산 낭비, 제품 불량, 설비 손상, 안전사고로 이어질 수 있다. AI가 환각을 일으키면 잘못이 생산 공정 전체에서 되풀이되고 커지며 비용과 운영에 누적 피해를 남긴다. 광범위한 안전 시험을 거친 뒤에도 AI 기계가 예측하기 어렵게 움직일 수 있고, 사람의 행동을 읽기 힘든 공공장소에서는 위험이 더 커진다. 그래서 보고서는 규제 준수, 위험 평가, 지속적 감시를 아우르는 포괄적 안전 전략이 필요하다고 본다.