신호 EduZone: K-12 학생·교사를 위한 LLM 안전성 평가 프레임워크

요약

박준영, 한지은, 유하늘, 안소연, 윤진성, 오혜림(Alice Oh) 연구진이 2026년 8월 3일 arXiv(cs.CY)에 초중고(K-12) 교육 현장에서 학생·교사가 사용하는 LLM의 안전성을 평가하는 프레임워크 'EduZone'을 제안하는 논문을 공개했다. 저자들은 K-12 교육 전반에 LLM 활용이 늘고 있음에도, 학생·교사와의 실제 상호작용에서 유해·부적절 콘텐츠가 어떻게 나타나는지를 점검하는 안전성 평가가 부족하다고 지적한다. EduZone은 학생·교사용 사용 맥락, 세분화된 교육과정 개념, 일반 위해와 교육 특화 위해를 아우르는 6개 위험 범주·28개 세부 범주를 결합해 단일턴·정적 다중턴·동적 다중턴이라는 세 가지 설정에서 맥락 기반 적대적 상호작용을 체계적으로 생성한다. 연구진은 이 상호작용을 활용해 LLM 10종을 거부·안전한 조력·안전 지침을 동반한 위험 조력·완전 위험 조력이라는 4단계 안전 수준으로 평가했다. 그 결과 교육 특화 위험과 동적 다중턴 상호작용에서 취약성이 더 크게 나타났고, 기존 안전 가드레일이 이를 충분히 방어하지 못하는 것으로 확인됐다. 저자들은 EduZone을 K-12 교육용 더 안전한 LLM 개발을 지원하는 자동화·확장 가능한 평가 프레임워크로 제시한다.