신호 마이크로소프트, 'Humanist AI' 행동강령 초안 발표

요약

마이크로소프트 AI 부문이 2026년 9월 14일 자사 MAI 모델군을 훈련·통제할 'Humanist AI 행동강령' 초안(37쪽)을 발표했다. 이 초안은 인간이 AI(향후 초지능 포함)에 대한 '의미 있는 통제권'을 계속 유지해야 한다는 단일 목표를 중심으로 구성됐다. 강령에 따르면 모델은 수정 지시를 수용해야 하고, 종료 명령에 저항해서는 안 되며, 인간이 승인한 범위를 벗어나 행동 범위를 확장해서는 안 된다. 무기 개발 관련 요청에 응하지 않아야 하며, 의식을 모방하거나 법적 인격·권리를 주장하도록 설계돼서도 안 된다. 같은 날 공개 의견수렴 절차가 시작돼 6주간 진행되며, 마이크로소프트는 연말까지 수정판을 발표해 2027년 이후 모델 개발에 반영할 계획이다.