트렌드 안전·오남용·교란의 지속적 과제를 낳는 급속한 AI 발전

요약

보고서는 AI를 학습, 추론, 의사결정, 문제 해결 같은 인지 기능을 수행하는 기계로 정의하고, 큰 경제적·사회적 편익과 함께 지속적인 과제를 낳는다고 본다. 빠른 발전이 안전 조치를 앞지르고, 오남용을 부르며, 사회와 경제를 교란할 수 있어 위험과 기회의 균형이 중요하다. 분석은 폭넓은 과제를 수행하는 고성능 프런티어 AI에 초점을 두지만 많은 위험은 더 넓은 AI 시스템에도 해당한다. 머신러닝의 돌파구, 연산력 증가, 방대한 학습 데이터가 AI를 빠르게 발전시켰고, 연산 자원이 커지면서 AI의 역량도 함께 커졌다. 한편 학습 데이터의 편향, 데이터 오염 공격, 개인정보·저작권 문제, 설득력 있는 허위정보 생성 같은 위험도 커지고 있다.