arXiv:2609.10060v1 cs.AI

은닉 상태의 상대적 표현을 이용한 LLM의 참조 기반 바이어스 탐지

Reference-Based Bias Detection in LLMs via Relative Representations of Hidden States

Marek Jeliński, Jan Dubiński, Maciej Chrabaszcz, Sebastian Cygert

제출 2026-09-09

한국어 초록

기존의 바이어스 감사 방법은 대체로 모델 출력에 의존하기 때문에, 비용이 많이 드는 벤치마크나 판정 모델(judge model)이 필요하고 생성된 텍스트에는 결코 드러나지 않는 내부적 변화를 놓칠 수 있습니다. 우리는 미세조정 전후와 같이 서로 관련된 모델 변형들 사이에서 은닉 상태(hidden-state) 표현의 바이어스를 감사하는 참조 기반 방법을 제안합니다. 미세조정은 표현의 기하 구조를 변형시키므로 절대적인 은닉 상태는 직접 비교할 수 없습니다. 따라서 각 문장을 고정된 앵커 문장 집합에 대한 유사도로 인코딩하여, 공통 비교 공간에서의 상대적 표현(relative representation)을 얻습니다. 이 공간에서 대상 집단이 긍정적·부정적 속성과의 연관성 측면에서 얼마나 이동하는지를 측정하며, 이를 표현 바이어스 이동(Representational Bias Shift) $ΔB$라 부릅니다. 세 가지 모델 계열과 WildGuardMix, DecodingTrust, ToxiGen 벤치마크에 걸쳐, $ΔB$는 우리가 실험한 18개 설정 중 15개에서 출력 수준의 바이어스 변화와 상관관계를 보였으며, 전체 미세조정에서는 $|r| = 0.84$($p < 0.001$)에 달했고 매개변수 효율적 적응(parameter-efficient adaptation)에서는 모델 의존성이 더 커졌습니다. $ΔB$에 임계값을 적용하면 바이어스가 증가한 체크포인트를 ROC AUC 0.65에서 0.99 사이로 탐지할 수 있으며, WildGuardMix와 DecodingTrust에서는 세 모델 계열 모두에 대해 SEAT 기반 기준선보다 더 잘 구분해 냅니다. 또한 $ΔB$는 앵커 집합, 속성 집합, 대상 템플릿의 변경에 대해서도 안정적입니다. 우리의 방법은 과제별 평가 데이터가 필요 없으며, 모델 하나를 감사하는 데 약 3분이 걸리고, 여기서 고려한 출력 수준 벤치마크보다 $3$-$50\times$ 적은 연산량을 사용합니다. 우리는 이 방법을 출력 기반 감사의 대체재가 아니라 보완재로 봅니다.

원문 초록

Existing bias auditing methods typically rely on model outputs, requiring costly benchmarks or judge models and potentially missing internal shifts that never appear in generated text. We propose a reference-based method that audits bias in hidden-state representations across related model variants, for example before and after fine-tuning. Because fine-tuning reshapes representation geometry, absolute hidden states are not directly comparable, so we encode each sentence by its similarities to a fixed set of anchor sentences, yielding relative representations in a shared comparison space. There we measure how target groups shift in their association with positive and negative attributes, a quantity we call the Representational Bias Shift $ΔB$. Across three model families and the WildGuardMix, DecodingTrust and ToxiGen benchmarks, $ΔB$ correlates with output-level bias change in 15 of the 18 settings we test, reaching $|r| = 0.84$ ($p < 0.001$) under full fine-tuning and becoming more model-dependent under parameter-efficient adaptation. Thresholding $ΔB$ detects checkpoints whose bias increased with ROC AUC between $0.65$ and $0.99$, and on WildGuardMix and DecodingTrust it separates them better than a SEAT-based baseline for all three families. $ΔB$ is also stable under changes to the anchor set, attribute sets and target templates. Our method requires no task-specific evaluation data and audits a model in about three minutes, using $3$-$50\times$ less compute than the output-level benchmarks considered here. We view it as complementary to output-based auditing rather than a replacement for it.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2609.10060v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.