신호 역량 높은 LLM이 만드는 금융시장 상관위험

요약

LLM은 금융시장부터 콘텐츠 관리, 채용까지 실세계 시스템에 빠르게 확산되고 있다. 연구진은 개별 모델의 역량을 높이는 것이 시스템 전체 결과를 오히려 나쁘게 만들 수 있다는 점을 보여준다. 이들의 가설은 공유된 훈련 데이터와 아키텍처 탓에 역량이 뛰어난 LLM일수록 서로 비슷하게 행동해, 분산으로 상쇄되지 않는 상관 행동을 만든다는 것이다. 이 상관관계가 위험의 하한선을 만든다는 것을 보이는 일반 프레임워크를 세우고, 역량이 저마다 다른 LLM 트레이더로 구성된 에이전트 기반 금융시장 시뮬레이션으로 이를 검증했다. 실험 결과 최선단 모델일수록 상관 행동이 뚜렷해졌고, 공유 추론이 정확할 때는 참여 확대가 시장위험을 낮췄지만 공통의 허위정보에 노출되면 그 상관성이 위험 요인으로 돌변했다. 저자들은 이를 '역량의 역설'로 부르며, 같은 동역학이 다른 영역에서도 나타나는지는 열린 질문으로 남겼다.