이슈 데이터와 연산이 합쳐지며 고전적 보안이 기대던 분리가 사라진다

요약

스탠퍼드대 조교수이자 버추 AI 공동창업자인 산미 코예조는 딜로이트 인터뷰에서 AI 시스템이 기존 컴퓨팅보다 지키기 어려운 이유를 설명한다. 가장 큰 차이는 AI가 훨씬 유연하고 맥락에 따라 움직인다는 점이어서, 전통 보안을 위해 다듬어 온 도구들이 AI에는 잘 통하지 않고 에이전트형 시스템에는 더더욱 그렇다. 기존 컴퓨팅에서는 데이터와 연산이 분리돼 있어 데이터를 노린 공격과 인프라를 노린 공격을 구분할 수 있었다. AI 시스템에서는 둘이 합쳐져 있어 하나를 공격하면 대개 둘 다 공격하는 셈이 된다. 그는 위험이 역량을 바짝 따라가므로 접근권과 행위 능력을 줄수록 새 보안 영역이 생긴다고 본다. 그래서 AI를 깊이 아는 AI 네이티브 보안 기업이 더 효과적일 것이라며 보안과 안전을 모델 역량으로 다루라고 권한다.