PyTorchKR Papers

최신 논문

총 12편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2412.00606v3cs.AI

모든 교차에서의 공정성: 다중모달 임상 예측에서 교차성 바이어스 발굴 및 완화

Fairness at Every Intersection: Uncovering and Mitigating Intersectional Biases in Multimodal Clinical Predictions

전자 의료 기록(Electronic Healthcare Records, EHR)을 활용한 자동화된 임상 의사결정에서의 바이어스는 환자 치료 및 치료 결과에 상당한 격차를 초래한다. 기존 접근법은 주로 단일 속성에서 기인하는 바이어스 완화 전략에 초점을 맞춰, 인종, 성별, 민족 등 다양한 인구통계학적 교차로 형성된 교차성 하위군(intersectional subgroups)을 간과해 왔다. 단일 속성 완화 전략을 교차성 하위군에 그대로 적용하는 것은 이러 하위군 간 분포와 바이어스 패턴의 차이로 인해 통계적으로 무의미해진다. EHR의 다중모달적 특성—텍스트, 시계열, 표 형식 데이터, 이벤트, 이미지 등 다양한 출처의 데이터 조합—은 소수 집단에 대한 영향이 모달리티마다 달라질 수 있어 복잡성을 한 층 더 더한다. 본 논문에서는 MIMIC-Eye1과 MIMIC-IV ED 등 광범위한 다중모달 데이터셋을 구축하여 예측에서 잠재적 교차성 바이어스를 발굴하는 초기 단계를 밟고, 교차성 하위군 수준에서의 완화를 제안한다. 우리는 다중모달 소스에서 통합 텍스트 표현을 학습하고, 사전학습된 임상 언어 모델(LM)인 MedBERT, Clinical BERT, Clinical BioBERT의 강력한 능력을 활용하여 데이터셋에서 하위 작업(downstream tasks) 수행·벤치마킹과 바이어스 평가를 수행한다. 실험 결과, 제안한 하위군별 바이어스 완화는 서로 다른 데이터셋, 하위군, 임베딩(embedding)에서 견고하게 나타나, 다중모달 환경에서 교차성 바이어스를 해소하는 데 효과적임을 보여 준다.

arXiv:2607.08953v1cs.LG

FairSelect: 다단계 및 교차적 알고리즘 공정성에 대한 체계적 평가

FairSelect: A Systematic Evaluation of Multi-Level and Intersectional Algorithmic Fairness

알고리즘 공정성(algorithmic fairness) 방법론은 머신러닝 모델의 바이어스를 식별하고 완화하는 데 점점 더 많이 활용되고 있으나, 대부분의 접근법은 단일 인구통계 축을 따라 독립적으로 평가된다. 이는 공정성 전략 선택에 대한 실질적인 지침을 제한하는데, 실제로는 교차적(intersectional) 하위 집단 전반에 걸쳐, 그리고 모델링 생애주기의 여러 단계에 걸쳐 불균형이 발생할 수 있다. 본 연구에서는 전처리(preprocessing), 처리 중(inprocessing), 후처리(postprocessing) 단계에서 공정성 완화 전략을 개별적으로 또는 조합하여 체계적으로 평가하기 위한 툴킷인 FairSelect를 제시한다. FairSelect는 다양한 모델 아키텍처, 교차적 하위 집단 평가, 기준선·단일 방법·다단계 구성에 걸친 공정성-유용성 트레이드오프 비교를 지원한다. 이 프레임워크는 특정 바이어스 메커니즘을 표현하도록 설계된 합성 임상 데이터셋과 심방세동 환자의 2년 뇌졸중 위험 예측에 관한 실제 세계 복제 연구를 통해 검증되었다. 합성 실험에서는 목표 지향적 공정성 방법이 의도한 하위 집단 불균형을 전반적으로 감소시켰으며, 결합 전략은 적당한 유용성 트레이드오프와 함께 더 큰 평균 공정성 향상을 이끌어냈다. 임상 예측 과제에서는 완화 효과가 매우 가변적이었는데, 일부 조합은 공정성과 예측 성능을 모두 향상시킨 반면 다른 조합은 효과가 없거나 역효과를 낳았다. 이러한 결과는 공정성 개입이 비가산적이고 맥락 의존적인 방식으로 상호작용함을 보여준다. FairSelect는 임상 머신러닝에서 모델 성능을 보존하면서 하위 집단 형평성을 향상시키는 공정성 전략을 체계적으로 식별하기 위한 실용적 프레임워크를 제공한다.

arXiv:2607.05574v1cs.CY

누구를 위한 공정성인가? AI 바이어스 연구의 구조적 집중화

Whose fairness? Structural concentration in AI bias research

AI 편향(bias) 연구 분야가 구조적으로 집중되어 있음을 계량서지학적 분석과 의미론적 클러스터링으로 분석한 연구로, 692편의 논문을 분석한 결과 미국이 모든 영역에서 출판 및 협력 네트워크를 압도적으로 주도하며 저소득·중소득 국가는 거의 부재함을 밝혔다. 특히 공정성 정의와 벤치마크를 공급하는 핵심 영역인 일반 공정성 및 편향 완화 도메인에서 연구 집중도가 가장 높아, 좁은 맥락에서 개발된 완화 방법이 보편적인 것으로 잘못 적용될 위험성을 제기한다.

arXiv:2607.03180v1cs.CV

FairFlow: 텍스트-이미지 확산 트랜스포머의 스테레오타입 바이어스 규명 및 완화

FairFlow: Demystifying and Mitigating Stereotype Bias in Text-to-Image Diffusion Transformers

멀티모달 확산 트랜스포머(MM-DiT)는 현대 텍스트-이미지 생성 시스템의 주류 백본으로 부상했다. 그러나 이 모델들은 치명적인 정렬 취약점을 내포하고 있어, 무해한 프롬프트에서도 심각한 스테레오타입 바이어스를 체계적으로 드러낸다. 이는 배포된 시스템에서 알고리즘적 차별이라는 중대한 위험을 초래한다. 기존 완화 전략의 대부분이 레거시 U-Net 아키텍처에 맞게 설계되었기 때문에, MM-DiT에서 이러한 취약점을 정밀하게 교정하는 것은 여전히 미해결 과제로 남아 있다. 본 연구에서는 먼저 기계론적 분석을 통해 이 취약점의 근본 원인을 규명한다. MM-DiT에서 바이어스 표현이 깊이 방향으로 균일하게 분포되지 않고, 내부 의미적 바인딩 허브로 기능하는 소수의 레이어들에 의해 매개된다는 사실을 밝힌다. 이 허브들은 단계별 전파 방식으로 바이어스 발현을 주도한다: 초기 허브는 바이어스에 취약한 구조적 템플릿을 형성하고, 중간 허브는 텍스트 조건화로부터 핵심 스테레오타입 개념을 능동적으로 추출하며, 후기 허브는 시각적 셀프 어텐션을 통해 이러한 바이어스를 전역적으로 고착시킨다. 이러한 아키텍처적 인사이트를 바탕으로, 우리는 내재적·기제 기반 완화 프레임워크인 FairFlow를 제안한다. FairFlow는 희소 조정(sparse steering)을 적용하는 내부 조절자로서, 속성별 공정한 방향을 학습하고 이를 제한된 추론 윈도우 내에서 식별된 의미적 허브에만 주입한다. FLUX.1-dev 및 Stable Diffusion 3에 대한 평가에서 FairFlow는 성별, 인종, 교차적 설정 전반에 걸쳐 스테레오타입 취약점을 효과적으로 중화하며 최적의 공정성-충실도 균형을 달성함을 보인다. 추론 오버헤드가 거의 없고 복잡한 프롬프트에도 강건한 FairFlow는 대규모 배포 MM-DiT 시스템을 위한 경량의 실용적인 바이어스 완화 방법을 제공한다. 코드와 데이터셋은 논문 승인 후 공개될 예정이다.

arXiv:2607.03397v1cs.AI

Concept Graph를 활용한 T2I 확산 모델의 효율적인 바이어스 완화

Efficient bias mitigation in T2I diffusion models using Concept Graphs

텍스트-이미지(Text-to-Image) 확산 모델은 학습 데이터로부터 상속된 유해한 바이어스를 전파하는 경우가 많다. 기존의 바이어스 완화 기법은 주로 텍스트 인코더에만 개입하거나 추론 시점의 가이던스만을 제공하여, 종종 생성 결과가 의미적으로 비일관적인 출력으로 붕괴되는 문제를 초래한다. 이러한 한계를 해결하기 위해, 우리는 모델의 내부 개념 온톨로지(concept ontology)에 작동하는 개념 그래프 정렬 기반의 새로운 바이어스 완화 접근법인 CO-ALIGN(Concept Ontology Alignment)을 제안한다. CO-ALIGN은 텍스트 인코더와 디노이저(denoiser) 내의 개념을 정렬함으로써 생성적 무결성을 보존하면서 상당한 바이어스 감소를 달성한다. 우리는 텍스트 인코더, 디노이저, 텍스트-디노이저 공동 온톨로지 정렬의 세 가지 패러다임에 걸쳐 개념 그래프 정렬의 효과를 입증한다. CO-ALIGN은 최신 기법을 능가하여 공정성을 $30\%$ 향상시키고, 이미지 품질에서 $\Delta FID=11.4$, 이미지 충실도에서 $2.8\%$를 개선하는 동시에, 의미적으로 비일관적인 출력을 $88\%$ 감소시킨다. 바이어스 완화를 넘어, CO-ALIGN이 다른 다운스트림 태스크에도 이점을 제공함을 보인다. 특히, 우리의 실험은 더 잘 정렬된 내부 온톨로지가 여러 언러닝(unlearning) 기법에 걸쳐 개념 언러닝 강건성을 향상시킴을 입증한다.

arXiv:2607.00817v1cs.CV

CLIP 기반 디노이징 최적화를 통한 학습 없는 디퓨전 모델 바이어스 제거

Training-Free Debiasing of Diffusion Models via CLIP-Guided Denoising Optimization

텍스트-이미지 디퓨전 모델의 인구통계학적 편향(demographic bias)을 재학습 없이 완화하기 위해, 조건부 텍스트 임베딩을 디노이징 과정에서 직접 최적화하는 Text Embedding Steering(TES) 프레임워크를 제안한다. 초기 단계의 전역 정렬과 CLIP 기반 중간 복원 이미지 피드백을 활용한 반복적 정제를 결합한 2단계 전략으로, Stable Diffusion에서 기존 학습 불필요(training-free) 기법 대비 공정성과 이미지 품질을 동시에 개선함을 실험적으로 입증한다.

arXiv:2606.30989v1cs.CL

잠깐, 나는 공정한가? 연역적 고정관념화의 특성 분석과 Fair-GCG를 통한 완화

Wait, am I Being Fair? Characterizing Deductive Stereotyping and Mitigating It with Fair-GCG

경고: 이 논문에는 여러 독성 및 공격적 표현이 포함되어 있습니다. 추론(reasoning)은 일반적으로 최근 대규모 언어 모델(LLM)의 공정성을 향상시키지만, 실패 사례는 여전히 존재한다. 본 연구에서는 모델이 집단 수준의 통계적 규칙성을 개별 사례에 적용하여 논리적으로는 일관되지만 사회적으로 편향된 추론을 생성하는 실패 모드인 연역적 고정관념화(deductive stereotyping)를 식별한다. 우리는 이 현상에 대한 통계적 해석을 제시한다. 모델이 공정성 인식 추론을 수행하도록 유도하기 위해 추론 시점 주입 프레임워크(reasoning-time injection framework)를 제안한다. 나아가 효과적인 주입 문구를 체계적으로 발견하기 위해 Fair-GCG를 도입한다. Fair-GCG가 발견한 주입 문구는 다수의 공정성 벤치마크에서 성능을 향상시키고, 소규모에서 대규모 LLM으로 일반화되며, 추론 수준의 공정성을 개선하고, 개방형 생성에서의 바이어스를 줄이며, 실세계의 공정성 민감 태스크로 전이된다.

arXiv:2602.06625v2cs.CL

FairJudge: An Adaptive, Debiased, and Consistent LLM-as-a-Judge

LLM-as-a-Judge 시스템의 적응성 부족, 위치·길이·형식 등 비의미적 단서로 인한 편향, pointwise-pairwise 간 판단 불일치 문제를 해결하기 위해 FairJudge를 제안하며, 판단 행동 자체를 학습 가능한 정책으로 모델링한다. SFT-DPO-GRPO 커리큘럼 학습 패러다임과 고정보밀도 데이터셋을 활용해 루브릭 적응성, 편향 완화, 평가 모드 간 일관성을 단계적으로 정렬함으로써 더 큰 범용 LLM 대비 경쟁적이거나 우수한 판단 성능을 달성했다.

arXiv:2604.23178v2cs.AI

Judging the Judges: A Systematic Evaluation of Bias Mitigation Strategies in LLM-as-a-Judge Pipelines

LLM-as-a-Judge has become the dominant paradigm for evaluating language model outputs, yet LLM judges exhibit systematic biases that compromise evaluation reliability. We present a comprehensive empirical study comparing nine debiasing strategies across five judge models from four provider families (Google, Anthropic, OpenAI, Meta), three benchmarks (MT-Bench n=400, LLMBar n=200, custom n=375), and four bias types. Our headline practical finding is that a mid-tier model with the right debiasing can outperform frontier judges at a fraction of the cost: Gemini 2.5 Flash with the Combined Budget strategy reaches the highest agreement of any configuration we tested (71.0%, kappa=0.549) at ~$0.001 per evaluation, about 15x cheaper than the best frontier setup (Claude Sonnet 4, 69.5%, ~$0.015). Other key findings: (1) Style bias is the dominant bias (0.10-0.76 across models, favoring markdown over plain prose), far exceeding position bias (<=0.04), yet is rarely studied. (2) Verbosity bias is heterogeneous when measured length-aware: Pro, Flash, and Llama prefer longer answers (+0.24 to +0.44), Claude prefers concise (-0.12), and GPT-4o is neutral (-0.04); on truncation controls all models correctly prefer the complete response (0.88-1.00 accuracy). (3) Debiasing helps multiple models: Claude S8 (+11.5 pp), Flash S8 (+7.5 pp), and Claude S5 (+7.3 pp) survive Holm-Bonferroni correction, with Flash S1 (+4.7 pp) and Llama S8 (+4.5 pp) also significant. We release our evaluation framework, the 375-pair controlled dataset, and per-instance cached results for all nine strategies.

arXiv:2606.24161v1cs.CV

확산 기반 분리를 통한 이중 브랜치 교차 투영 디바이어싱

Dual-Branch Cross-Projection Debiasing through Diffusion-based Disentanglement

편향된 데이터셋으로 학습된 파운데이션 모델은 종종 목표 레이블과 비인과적 속성 사이의 허위 상관관계에 의존하여 소수 그룹에서 일반화 성능이 저하된다. 바이어스 완화는 두 가지 근본적인 문제로 인해 여전히 어렵다. 첫째, 그룹 레이블을 사용할 수 없을 때, 기존의 그룹 비지도(group-unsupervised) 방법들은 일반적으로 모델 행동에서 허위 속성을 암묵적으로 추론하기 때문에, 실제 바이어스와 의미적으로 부합하는 허위 요인을 식별하기 어렵다. 둘째, 유사 허위 지도(pseudo spurious supervision)가 있는 경우에도 기존의 대부분 디바이어싱 방법들은 단일 공유 특징 공간 내에서 동작하는 단일 브랜치 설계를 따르며, 해당 공간에서 목표 속성과 허위 속성이 본질적으로 얽혀 있다. 첫 번째 문제를 해결하기 위해, 우리는 확산 분리(diffusion-disentangled)된 의미론적 기반 개념 표현을 활용하여 속성 어노테이션 없이 신뢰할 수 있는 허위 속성을 식별하는 신뢰도 기반 바이어스 개념 마이닝(CBCM, Confidence-guided Bias Concept Mining)을 도입한다. 두 번째 문제를 해결하기 위해, 목표 표현과 허위 표현을 두 브랜치로 분리하고 교차 영공간 투영(cross null-space projection)을 통해 허위 정보를 명시적으로 제거하는 동시에 목표 관련 의미론을 보존하는 프롬프트 튜닝 프레임워크인 이중 브랜치 교차 투영 디바이어싱(DCD, Dual-branch Cross-projection Debiasing)을 제안한다. 네 개의 벤치마크 데이터셋에 대한 광범위한 실험에서, 우리의 방법은 모델 파라미터의 최대 0.22%만을 튜닝하면서 그룹 비지도 접근법 중 최고 수준의 최저 그룹 정확도(worst group accuracy)를 달성함을 보인다. 소스 코드는 보충 자료에서 확인할 수 있다.

arXiv:2606.20461v1cs.LG

커버리지 제약 조건 하의 데이터 바이어스 완화 및 공정성의 대가

Data Bias Mitigation under Coverage Constraints & The Price of Fairness

머신러닝 모델은 인종과 성별과 같은 여러 민감 속성이 중첩되는 개인에 대해 차별적인 결과나 성능 저하를 보이는 것으로 나타났습니다. 이는 부분적으로 바이어스(잠재적으로 교차적)를 정량화하기 위한 체계적인 측정 방법의 부재와 학습 데이터 내 교차적 하위 그룹의 표현이 부족하다는 두 가지 상호 관련된 문제에서 기인합니다. 우리는 교차적 하위 그룹을 포함하여 그룹 전반에 걸쳐 충분한 표현을 보장하는 커버리지 제약 조건을 통합하도록 최근의 바이어스 완화 프레임워크를 확장했습니다. 모든 그룹에 대해 정확히 제로 바이어스를 달성하는 것은 데이터 효율적이지 않을 수 있으므로(즉, 많은 양의 데이터가 필요할 수 있음), 우리의 솔루션은 커버리지 제약 조건을 충족하면서 바이어스의 작은 근사 오차를 더 큰 데이터 효율성과 교환합니다. 또한 우리는 바이어스 완화를 모든 완화 전략에 대해 최적화하는 정수 선형 계획법으로 공식화하고, 최소 데이터 수정 비용인 공정성의 대가를 공정성 허용치의 함수로 특성화합니다. 이는 규정이 특정 공정성 임계값을 의무화할 수 있는 법적 규정 준수와, 실무자가 바이어스 감소와 데이터 수정(특히 데이터 구매) 비용 사이의 정보에 입각한 트레이드오프를 수행할 수 있게 하는 데이터 거버넌스 모두에 필수적입니다. 우리는 공개 데이터셋에서 우리의 기법을 평가하여, 우리의 프레임워크를 통한 바이어스 완화가 여러 분류기에 걸쳐 예측 정확도를 유지하며, 통계적 고려 사항에서 동기가 부여된 커버리지 제약 조건이 다운스트림 ML 성능을 유지하는 데 필수적임을 보여줍니다.

arXiv:2606.13461v1cs.LG

신경망 모델 편집을 위한 강화학습

Reinforcement Learning for Neural Model Editing

신경망 모델 편집을 강화학습(RL) 문제로 공식화하여 에이전트가 보상 피드백을 통해 모델을 수정하는 탐색적 프레임워크를 제안한다. 텍스트 분류의 편향 완화 및 이미지 분류의 머신 언러닝 평가를 통해, 학습된 정책이 모델의 전반적인 성능을 유지하면서도 특정 수정 목표를 효과적으로 달성함을 입증했다.