대규모 언어 모델에서 지리적 조건화의 의도하지 않은 효과
Unintended Effects of Geographic Conditioning in Large Language Models
현대의 대화형 AI 시스템은 응답을 지역화하기 위해 자주 사용자 메타데이터에 의존하지만, 이 숨겨진 맥락으로 인해 야기되는 의도하지 않은 지역적 편향은 여전히 잘 이해되지 않고 있습니다. 본 연구에서 우리는 위치 누출(location leakage)을 평가합니다. 이는 모델이 지리적으로 중립적인 사용자 프롬프트를 받았음에도 불구하고 지리적 언급을 생성하는 현상입니다. 창작 글쓰기와 개방형 질의응답 프롬프트 전반에 걸쳐, 최첨단 대규모 언어 모델(LLM)조차도 위치 메타데이터에 노출될 때 지역 특정 출력을 체계적으로 선호하며, 누출은 기준선보다 최대 793배까지 급증합니다 (예: Llama 3.1-8B의 경우 0.04%에서 31.7%로, Qwen3-8B와 Claude Sonnet 4.6의 경우 각각 21.3%와 8.8%임). 우리의 분석은 또한 새로운 구조적 조건화 효과를 보여줍니다. 주입된 위치를 "Unknown"이라는 플레이스홀더로 대체해도 누출이 기준선보다 최대 72배까지 증가하는데, 이는 지리적 콘텐츠와 무관하게 사용자 프로필 프레임 자체가 생성적 조건화 신호로 작용함을 보여줍니다.