신호 알고리즘 리코스에서 인과성의 역할

요약

이 논문은 대출·모기지 심사와 같은 고위험 분류 상황에서 개인에게 예측 결과를 개선할 수 있는 실행 가능한 변경안을 제공하는 '알고리즘 리코스'를 다룬다. 기존 접근법 대부분이 모델의 예측을 뒤집는 데만 초점을 맞출 뿐, 권고된 변경이 실제 자격 개선을 반영하는지 검증하지 않아 분류기를 전략적으로 속이는 데 악용될 수 있다는 점을 지적한다. 저자들은 이러한 실패 양상을 인과적 성과기반(causal performative) 프레임워크로 정식화해, 리코스 행위가 구조적 인과모델을 통해 특성들 간 상호작용과 실제 결과 라벨에 미치는 영향을 어떻게 전파하는지 모델링한다. 안정적인 해가 존재하고 간단한 반복 동학으로 계산 가능한 조건을 규명했으며, 인과 구조를 무시하는 리코스 정책이 크고 잘못 정렬된 행동 반응을 유발할 수 있음을 보였다. 준합성 및 실제 신용 데이터셋 실험에서 인과 기반 접근법이 표준 경험적 위험 최소화(ERM)보다 일관되게 우수한 성능을 보였다. 이 접근법은 전략적 행동으로 인한 분포 변화에 대응하기 위한 모델 재훈련 필요성도 줄이는 것으로 나타났다.