알고리즘적 판단의 지리학: 주택 검색에서의 LLM 중개자, 장소 정체성, 그리고 인종적 유도
The Geography of Algorithmic Judgment: LLM Intermediaries, Place Identity, and Racial Steering in Housing Search
대규모 언어 모델(LLM)은 대화형 인터페이스 내에 매물 플랫폼을 통합함으로써 주택 검색에서 중개 역할을 빠르게 수행하고 있으며, 도시 환경 내에서 정보, 검색, 추천에 대한 접근을 중개하고 있습니다. 우리는 4개 미국 도시에 걸쳐 7개의 오픈 가중치 및 폐쇄형 소스 LLM에 대한 행동 감사를 수행하여 LLM 내 인종적 유도에 대한 기존 연구를 확장했습니다. 이 과정에서 라이프스타일 선호 맥락을 점진적으로 추가하고 공정 주택 쌍대 테스트(paired-testing) 방법론을 반영하는 3가지 반복적 프롬프트 조건에 걸쳐 위치 추천을 테스트했습니다. 우리는 유도가 주로 정적 속성이라기보다는 모델의 해석적 재량에서 비롯된 창발적 행동임을 발견했습니다. 유도는 사용자의 정체성, 선호 표현, 그리고 모델이 특정 도시의 장소, 선호, 기회에 대해 학습한 표현을 내면화한 공간적 논리, 그리고 다양한 유형의 사용자가 이에 관련하는 방식 간의 상호작용 결과로 발생합니다. 유도가 존재했지만, 평가된 조건 전반에서 그 방향이나 규모가 균일하지는 않았습니다. 선호 조건부 테스트는 기준선 조건에 비해 유도 행동을 나타내는 모델의 수를 종종 증가시키거나 재구성했으며, 이는 LLM이 사용자의 인종적 정체성에 따라 동일한 주택 선호의 의미를 다르게 해석할 수 있음을 시사합니다. 우리의 연구 결과는 또한 도시가 장소 기반 부문에서의 LLM 평가를 위한 중립적 테스트 단위가 아니며, 하나의 지역 시장에서 얻은 결과가 다른 시장으로 일반화된다고 가정할 수 없음을 보여줍니다. 공간적 접근을 중개하는 AI 도구를 도입하면서 공정 주택에 대한 법적 및 제도적 약속이 훼손되지 않도록 하려면 주택 부문에 지역 및 도메인 전문성이 필요할 것입니다.