트렌드 덜 숙련된 악의적 행위자에게 힘을 주는 오픈 모델

요약

보고서는 AI, 특히 오픈소스 모델에 대한 접근이 쉬워지면 덜 숙련된 악의적 행위자도 힘을 얻어 보안 위험이 커질 수 있다고 본다. 현재도 AI 오남용은 사이버 분야 위협 행위자의 악용과 새 행위자의 진입 장벽을 낮추는 위험으로 꼽힌다. 생성형 AI는 사기와 아동 성착취물 제작 같은 범죄를 돕는 수단이 될 수 있다. 조직범죄 집단은 AI로 더 효과적이고 탐지하기 어려운 활동을 할 수 있으며, 프런티어 AI가 생물무기 설계에 쓰일 수 있다는 점에서 화학·생물·방사능·핵 공격이라는 급성 위험과도 연결된다. 또한 AI는 데이터 오염 공격에 취약해 악의적 행위자가 해로운 데이터를 넣어 결과를 왜곡할 수 있다.