신호 심전도 진단용 설명가능 AI, 대다수가 임상적으로 중요한 신호 영역 놓쳐 — 연구

요약

연구진이 심전도(ECG) 분류 모델을 해석하는 데 쓰이는 사후 설명가능 AI(XAI) 기법 13종을, 개별 샘플 단위의 그럴듯함이 아니라 임상 가이드라인이 정의한 진단 유의 영역과 대조해 평가했다. PTB-XL 데이터로 학습한 이진 분류기 4종을 사용해 저진폭 구간과 고진폭 QRS 파형 패턴에 대한 설명을 비교했다. 결과는 컴퓨터비전에서 이식된 기법들의 체계적 실패를 보여줬다 — 설명이 임상적 유의성이 아니라 신호 진폭을 따라가는 경향이 있었고, 진폭과의 상관관계는 스피어만 상관계수 최대 0.69에 달했다. 허혈 판별에서 흔히 쓰이는 기법(LRP-ε)은 임상적으로 결정적인 ST분절에 관련도의 4.6%만 부여한 반면, 대안 기법(LRP-SIGN)은 63.8%를 부여했다. 평가된 13개 기법 중 9개는 최소 한 가지 심장 질환에서 우연 수준 이하의 신뢰도를 보였다. 저자들은 전역적·가이드라인 기반 평가가 개별 샘플 단위 히트맵으로는 드러나지 않는 체계적 설명 실패를 밝혀낼 수 있다고 결론짓는다.