신호 AI는 어느 의사를 추천하는가 — LLM 의사 추천의 평판·인구통계 신호 감사

요약

대규모언어모델(LLM) 어시스턴트가 환자에게 의사를 추천하는 방식을 검증한 사전등록 무작위 알고리즘 감사 연구가 나왔다. 저자들은 환자들이 점점 더 LLM 어시스턴트에게 어느 의사를 찾아야 할지 묻고 있어, 이런 시스템이 대규모로 조용히 어떤 의사가 노출될지를 결정하는 'AI 정보중개자'가 되고 있다고 지적한다. 연구는 개방형 가중치 모델 6개와 GPT 계열 1개를 포함한 총 7개 모델을 대상으로, 명성이나 인구통계학적 신호 같은 요인이 추천 결과를 실제로 바꾸는지 인과적으로 검증했다. 이는 의료 접근성에 직접적 함의를 지니는 소비자용 AI 애플리케이션에 대한 알고리즘 감사로 자리매김한다. 연구진은 이런 검증이 향후 유사 시스템의 공정성 점검에 모형이 될 수 있다고 본다.