이슈 월드 모델은 내부적으로 일관되면서도 세상이 돌아가는 방식에 대해서는 틀릴 수 있다

요약

두바이미래재단 전망은 월드 모델이 다른 종류의 위험을 안고 있다고 경고한다. 학습 데이터의 편향을 되풀이하는 데 그치지 않고, 세상이 실제로 돌아가는 방식에 대해 잘못된 가정을 쌓을 수 있다는 것이다. 모델은 스스로는 완벽히 일관되면서도 틀릴 수 있어, 통제된 환경에서 현실로 옮겨 가는 순간 사각지대가 생긴다. 이런 오류를 잡으려면 처음부터 가정을 분명히 밝히고, 엄격한 부하 시험을 거치며, 데이터 변화와 조작 가능성, 기본 가정의 변화를 추적하는 감사가 필요하다. 그러나 활용 속도가 빨라지는 동안에도 감사 체계와 책임 기준, 검증 기준은 아직 만들어지는 중이다. 전망은 안정성을 전제로 세워진 기관들이 끊임없이 스스로를 고치는 시스템을 다스리는 법을 익혀야 한다고 덧붙인다.