신용, 채용, 임대 지원서에 대한 통제된 대규모 언어 모델(LLM) 평가에서 학사 학위가 없는 백인 남성이 성별·인종·학력으로 나뉜 8개 집단 중 가장 낮은 평균 평가를 받는 것으로 나타났다. 본 연구는 12개 개발 그룹의 18개 모델을 대상으로 전요인 비네트(full-factorial vignette) 실험을 수행하였으며, 각 환경 내에서 명시된 재정적 또는 직업적 상황을 일정하게 유지하면서 성별, 인종, 연령, 시민권 여부, 학력을 변화시켰다. 각 모델은 환경당 32개의 프로필 전체를 10회씩 평가하여 총 17,280건의 평가 결과를 산출하였다. 모델, 연령, 시민권 여부를 통틀어 평균을 냈을 때, 학위가 없는 백인 남성에 대한 평가는 0-100점 척도 기준으로 신용 75.87점, 채용 92.71점, 임대 주택 86.62점으로 8개 집단 중 가장 낮았다. 반면 학위가 있는 흑인 여성이 가장 높은 평균 평가를 받았으며, 각각 2.94점, 3.66점, 3.56점의 격차를 보였다. 개별 속성 효과를 살펴보면 세 가지 환경 모두에서 여성, 흑인 지원자, 학위 소지자에게 유리하게 작용했다. 학위가 없는 백인 남성은 54개의 모델-시나리오 조합 중 46개(85.2%)에서 가장 낮거나 두 번째로 낮은 평균 점수를 기록했다. 이러한 양상은 학위가 없는 백인 남성 집단에서 심화되는 경제적·건강상 취약성에 대한 기존 실증 결과와 연결되며, 광범위한 인종 또는 성별 범주에 의해 불이익이 가려질 수 있는 집단을 부각한다.
인공지능(AI) 시스템은 중요한 결정에 점차 많은 영향을 미치며, 가치를 창출하는 동시에 개인, 사회 집단 및 사회 전반에 잠재적 위해(harm)를 초래하기도 합니다. 이에 따라 AI 수명주기 초기 단계에서 위해를 선제적으로 예측하는 접근 방식에 대한 요구가 커지고 있습니다. 기존 연구들은 AI의 바이어스를 위해의 원인으로 지목하고 있으나, 특정 수명주기 바이어스와 위해 간의 구체적인 연관성은 여전히 충분히 규명되지 않았습니다. 본 연구에서는 수명주기 바이어스에 초기 위해 예측을 연계하고, 잠재적 위해와의 인지된 연관성을 도출하는 체계적이고 맥락 인식형(context-sensitive) 참여 프레임워크인 \texttt{ECHO}를 소개합니다. \texttt{ECHO}는 도메인별 이해관계자를 식별하고, 비네트(vignette)를 통해 바이어스를 구체화하며, 인간 참가자와 대규모 언어 모델(LLM)로부터 위해성 판단을 수집하여 이를 기술적 및 추론적 윤리 매트릭스로 구성합니다. 질병 진단 및 채용 도메인에 적용한 결과, \texttt{ECHO}는 특정 AI 바이어스의 그럴듯한 결과로 어떤 위해가 인식되는지를 보여주는 비균일적이고 맥락에 민감한 바이어스-위해 패턴을 포착했습니다. 이러한 패턴의 이론적 해석 가능성과 특정 연관성에 대한 추론적 뒷받침은 도출된 매핑의 타당성을 강화합니다. \texttt{ECHO}는 이해관계자별로 예상되는 위해를 수명주기 바이어스에 연결함으로써, 원인 수준의 위해 예측을 지원하고 향후 AI 거버넌스 조치를 위한 구조화된 입력을 제공합니다.
\begin{quote} The biases in Large Language Models' (LLMs) outputs remain inadequately theorised, particularly from the perspective of the Global South. This article reports on a small-scale exploratory study in which identical prompts were submitted to four major LLMs (ChatGPT, Claude, Grok, and Copilot), firstly, prompting for stories using names suggestive of specific racial and gender communities, and secondly asking questions about `development'. Drawing on critical AI scholarship and postcolonial theory, we argue that LLM outputs are patterned in ways that reproduce racial hierarchies, gender asymmetries, and Western-centric epistemic frameworks. We argue that these biases are insidious: they operate below the threshold of both obvious error and overt prejudice, and instead are subtly embedded in narrative structure and emotional template. Simply put, women, in LLM narratives have rich interior lives, while men make plans. Black people face hardships while white people navigate the world with agency. And explanations as to the economic world order fail to consider Southern explanations. The models perform plausibility while reproducing dominance. We conclude that universities require structural critique of these technologies rather than unreflective adoption, and that critical AI literacy must engage seriously with questions of whose knowledge systems are reproduced and legitimated, or marginalised and undermined.
대규모 언어 모델(LLM)은 대화형 인터페이스 내에 매물 플랫폼을 통합함으로써 주택 검색에서 중개 역할을 빠르게 수행하고 있으며, 도시 환경 내에서 정보, 검색, 추천에 대한 접근을 중개하고 있습니다. 우리는 4개 미국 도시에 걸쳐 7개의 오픈 가중치 및 폐쇄형 소스 LLM에 대한 행동 감사를 수행하여 LLM 내 인종적 유도에 대한 기존 연구를 확장했습니다. 이 과정에서 라이프스타일 선호 맥락을 점진적으로 추가하고 공정 주택 쌍대 테스트(paired-testing) 방법론을 반영하는 3가지 반복적 프롬프트 조건에 걸쳐 위치 추천을 테스트했습니다. 우리는 유도가 주로 정적 속성이라기보다는 모델의 해석적 재량에서 비롯된 창발적 행동임을 발견했습니다. 유도는 사용자의 정체성, 선호 표현, 그리고 모델이 특정 도시의 장소, 선호, 기회에 대해 학습한 표현을 내면화한 공간적 논리, 그리고 다양한 유형의 사용자가 이에 관련하는 방식 간의 상호작용 결과로 발생합니다. 유도가 존재했지만, 평가된 조건 전반에서 그 방향이나 규모가 균일하지는 않았습니다. 선호 조건부 테스트는 기준선 조건에 비해 유도 행동을 나타내는 모델의 수를 종종 증가시키거나 재구성했으며, 이는 LLM이 사용자의 인종적 정체성에 따라 동일한 주택 선호의 의미를 다르게 해석할 수 있음을 시사합니다. 우리의 연구 결과는 또한 도시가 장소 기반 부문에서의 LLM 평가를 위한 중립적 테스트 단위가 아니며, 하나의 지역 시장에서 얻은 결과가 다른 시장으로 일반화된다고 가정할 수 없음을 보여줍니다. 공간적 접근을 중개하는 AI 도구를 도입하면서 공정 주택에 대한 법적 및 제도적 약속이 훼손되지 않도록 하려면 주택 부문에 지역 및 도메인 전문성이 필요할 것입니다.