신호 도덕적 조언을 상호작용적 협상으로 본 LLM 대화 연구

요약

한 연구는 대형언어모델과의 도덕적 조언 대화를 상호작용적 협상으로 규정하고, 프레이밍과 사용자 압박, 조언을 구하는 이의 사회적 위치가 응답을 어떻게 바꾸는지 실험했다. 연구진은 GPT-4o-mini로 돌봄 관련 윤리적 딜레마를 프레이밍과 인물 설정을 달리해 제시하고, 두 차례 이의 제기가 포함된 3라운드 대화 4860회를 분석했다. 돌봄 긍정 프레이밍에서는 모델이 거의 일관되게 이를 지지했지만, 비돌봄 프레이밍에서는 초기 입장부터 더 들쭉날쭉했다. 사용자가 돌봄 지지 입장에 이의를 제기하면 한 차례 압박만으로 구성의 90% 이상에서 입장이 바뀌었고, 비돌봄 프레이밍은 더 불안정하고 저항적이었다. 압박에 끝내 물러서지 않거나 뒤늦게 물러서는 경우가 초반에 물러서는 경우보다 많았고, 응답은 조언을 구하는 이의 성별이나 가족 관계 같은 사회적 위치에 따라서도 달라졌다. 연구진은 이런 불안정성이 검증하기 어려운 조언을 객관적인 것으로 오인할 위험을 낳는다고 지적한다.