신호 LLM 문화적 불일치를 표적 미세조정으로 완화

요약

연구진은 미국의 Gemma3-12B, 폴란드의 Bielik-11B-v3, 중국의 Qwen3-4B라는 3개 오픈소스 LLM을 세계가치관조사 7차 데이터와 대조해 3개국의 63개 인구통계학적 페르소나에 대해 정규화 바서슈타인 거리로 분포적 불일치를 정량화했다. 예상과 달리 어떤 모델도 자국 편향을 보이지 않았으며, 중국에서 만들어진 Qwen3-4B는 오히려 자국인 중국 인구집단에서 가장 나쁜 성능(W1=0.436)을 보여 전체 모델×국가 행렬에서 최고 불일치로 나타났다. 최악 성능 페르소나 5개를 대상으로 표적 LoRA 미세조정을 수행한 결과, 학습쌍 1,200개 미만과 단일 GPU 15분 미만의 자원으로 Bielik-11B의 편향을 16.8% 줄였으며(p_Bonf=0.002, d=-4.4) 5개 대상 모두 개선됐다. 그러나 국가별로 분해해 보면 미세조정은 편향을 제거하기보다 재분배했는데, Bielik의 최악 페르소나 집합이 미국인 노인에서 중국인 노인으로 완전히 바뀌었고 보정 전후 대상 집합 간 중첩은 전혀 없었다. 저자들은 이번 연구가 최악 사례 인구통계학적 페르소나를 표적으로 LoRA 미세조정을 적용해 문화 간 편향을 완화한 최초의 연구라고 밝힌다.