Efficient Gender Debiasing of Pre-trained Indic Language Models
원문 초록
The gender bias present in the data on which language models are pre-trained gets reflected in the systems that use these models. The model's intrinsic gender bias shows an outdated and unequal view of women in our culture and encourages discrimination. Therefore, in order to establish more equitable systems and increase fairness, it is crucial to identify and mitigate the bias existing in these models. While there is a significant amount of work in this area in English, there is a dearth of research being done in other gendered and low resources languages, particularly the Indian languages. English is a non-gendered language, where it has genderless nouns. The methodologies for bias detection in English cannot be directly deployed in other gendered languages, where the syntax and semantics vary. In our paper, we measure gender bias associated with occupations in Hindi language models. Our major contributions in this paper are the construction of a novel corpus to evaluate occupational gender bias in Hindi, quantify this existing bias in these systems using a well-defined metric, and mitigate it by efficiently fine-tuning our model. Our results reflect that the bias is reduced post-introduction of our proposed mitigation techniques. Our codebase is available publicly.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
HierBias: 문맥 조건 계층적 미디어 바이어스 탐지와 다중 과제 유형 분류
HierBias: Context-Conditioned Hierarchical Media Bias Detection with Multi-Task Type Classification
미디어 바이어스 탐지는 공정하고 균형 잡힌 정보 전달을 보장하기 위한 중요한 과제이지만, 기존의 문장 수준 접근법은 각 문장을 독립적으로 분류하여 인간 주석자가 자연스럽게 활용하는 문장 간 문맥 신호를 무시한다. 우리는 바이어스 예측에서 문서 문맥을 형식적으로 모델링하는 계층적 문맥 조건 미디어 바이어스 탐지기 \textbf{HierBias}를 제안한다. 우리는 \emph{context-conditioned bias probability}를 도입하고, 문장 간 상호정보량이 0이 아닐 때 문서 문맥을 활용하면 문장 수준 분류의 베이즈 오류가 엄격하게 감소함을 이론적으로 증명한다. 다중 과제 일반화 한계는 추가로, 이진 바이어스 탐지와 세분화된 바이어스 유형 분류를 공동 학습하면 소규모 주석 코퍼스에서 표본 효율이 향상됨을 입증한다. 아키텍처적으로 HierBias는 문장 수준 RoBERTa 인코더와 문장 간 트랜스포머 집약기, 그리고 이진 탐지와 4클래스 유형 분류를 위한 이중 출력 헤드를 결합한다. BABE와 BASIL에서 평가한 결과, HierBias는 F1 0.853과 MCC 0.723을 달성하여, 최첨단 바이어스 탐지기 대비 F1 $+2.6\%$, MCC $+4.3\%$를 초과한다(McNemar 검정, $p < 0.05$). Ablation 실험은 각 이론적 구성 요소가 독립적이고 일관되게 기여함을 확인한다.
UnBias-Plus: 바이어스 탐지, 설명 및 재작성
UnBias-Plus: Detect, Explain, and Rewrite Bias
자연어의 바이어스는 인간이 작성한 콘텐츠와 AI가 생성한 콘텐츠 모두에서 지속적인 과제로 남아 있으며, 저널리즘, 교육, AI 연구 등의 분야에 영향을 미칩니다. 기존 대부분의 탐지 방법은 바이어스의 존재만 식별할 뿐, 세분화된 탐지, 해석 가능한 설명, 중립적 재작성, 공개적으로 이용 가능한 학습된 모델에 대한 지원은 제한적입니다. 우리는 (1) 세그먼트 수준 다중 클래스 바이어스 분류, (2) 편향 구간(span) 위치 특정, (3) 중립적 텍스트 재작성, (4) 각 결정에 대한 추론(reasoning)을 통합한 오픈소스 툴킷 UnBias-Plus를 제안합니다. Python, CLI, REST API 및 웹 인터페이스를 통해 제공되는 UnBias-Plus는 접근 가능한 바이어스 분석을 지원합니다. 툴킷, 소스 코드, 모델, 데이터셋 및 문서는 공개적으로 제공됩니다.
언어-에너지 격차: 다국어 LLM 추론의 에너지 비용 측정
The Language-Energy Divide: Measuring Energy Costs of Multilingual LLM Inference
대규모 언어 모델(LLM)은 다국어 환경에서 점점 더 배포되고 있지만, 다양한 언어에 걸쳐 이러한 모델을 서빙할 때의 에너지 비용은 여전히 잘 이해되지 않고 있다. ML.Energy 프레임워크(Chung et al., 2026)를 사용하여 언어 간 추론 에너지 소비에 대한 체계적인 연구를 제시한다. 우리는 뚜렷한 격차를 발견한다: 출력 토큰당 에너지 소비는 언어에 따라 최대 8.3배까지 달라지며, 고정된 요청 집합에 대한 총 에너지는 가장 저렴한 언어(영어, 17.6 kJ)와 가장 비싼 언어(파슈토어, 3,147 kJ) 사이에서 최대 179배까지 차이 난다. 분석 결과, 이러한 격차는 두 가지 복합 요인에 의해 발생한다: (1) 복잡하거나 희귀한 문자 체계를 사용하는 언어에서 토큰당 에너지 비용이 더 높고, (2) 저자원 언어에서 더 많은 토큰이 생성된다. 더 나아가, 이중 비용+성능 페널티를 발견한다: 에너지 발자국이 가장 큰 언어일수록 작업 정확도도 가장 낮은 경향이 있다. 에너지 격차는 모델, 하드웨어, 작업 전반에 걸쳐 지속되며, 이는 다국어 LLM 배포에서 구조적인 에너지 불평등이 있음을 시사한다. 마지막으로, 커뮤니티가 에너지를 1급 평가 축으로 취급하고, 보고 체크리스트와 모델 카드에 이를 포함하도록 확장하며, 더 나은 에너지 효율을 위한 배포 측면의 완화 조치를 채택할 것을 권고한다.
Decomposing Yes-No Bias in LLM Moral Judgment: Stance, Position, Word, and Verdict
영향력 있는 다원주의적 정렬 연구를 위한 로드맵
A Roadmap to Impactful Pluralistic Alignment Research
공정한 자기지도 학습을 위한 편향 없는 Open World 정규화
Unbiased Open World Regularization for Fair Self-Supervised Learning
토론
이 논문과 연결된 포럼 글이 아직 없습니다.