신호 첨단 AI 시스템을 시험하는 영국 AI안전보장연구소(AISI)

요약

영국 AI안전보장연구소(AISI)는 첨단 AI의 과학적 위험에 관해 정부에 조언하는 기관이다. 주요 활동은 첨단 AI 시스템을 시험해 정책 담당자에게 위험을 알리고, 부문을 넘나드는 국제 협력을 이끌며, 세계적으로 정책을 강화하는 것이다. 보고서는 이 연구소를 NHS AI 랩, 2024년 발표된 AI보안연구소와 함께 AI 위험에 대한 대표적 완화 조치로 소개한다. 배경에는 빠른 AI 발전이 안전 조치를 앞지르고 오남용과 사회·경제적 교란을 낳을 수 있다는 판단이 있다. 보고서는 AI를 안전하게 쓰면 효율과 경제성장, 세수가 늘고 일과 삶의 균형도 나아질 수 있다고 본다.