arXiv:2605.15208 cs.LG

Quantization Undoes Alignment: Bias Emergence in Compressed LLMs Across Models and Precision Levels

제출 2026-05-02

한국어 초록

대규모 언어 모델은 클라우드 및 엣지 배포에서 추론 비용과 메모리 사용량을 줄이기 위해 사후학습 양자화(post-training quantization)를 통해 일상적으로 압축되지만, 이러한 압축이 모델 품질에 미치는 영향은 아직 충분히 이해되지 않았습니다. 기존 연구는 대개 두 가지 조건(전체 정밀도 vs. 단일 양자화 변형)만 비교하고, 집계된 편향 지표에 의존하며, 하나의 모델 계열만 평가하기 때문에, 점진적 성능 저하와 임계값 의존적 안전성 실패를 구분할 수 없습니다. 우리는 다섯 가지 정밀도 수준(BF16부터 3비트까지)에서 세 개의 인스트럭션 튜닝된 모델(Qwen2.5-7B, Mistral-7B, Phi-3.5-mini)을 대상으로, 5개의 무작위 시드에 걸쳐 12,148개의 BBQ 편향 벤치마크 항목을 사용한 통제된 실증 연구를 수행했으며, 총 911,100개의 추론 기록을 분석했습니다. 그 결과, 3비트 양자화는 이전에 편향이 없던 항목의 6~21%에서 새로운 고정관념적 행동을 유발하며, 이는 로지스틱 회귀로 확인된 명확한 용량-반응(dose-response) 패턴을 따랐고, 모델이 "unknown" 답변을 선택하려는 경향은 17.4% 감소했습니다. 결정적으로, 이러한 항목 수준의 변화는 표준 품질 지표로는 드러나지 않습니다. 세 모델 모두에서 8비트에서는 퍼플렉서티가 0.5% 미만, 4비트에서는 3% 미만 증가했지만, 이미 4비트에서 항목의 2.5~5.6%가 새로운 편향을 보였습니다. 이러한 결과는 집계 평가 지표가 공정성에 치명적인 성능 저하를 체계적으로 놓친다는 점을 보여주며, 배포 전에 편향 발생 여부를 명시적으로 점검하는 품질 인식 압축 프로토콜의 필요성을 강조합니다.

요약

대규모 언어 모델(Large Language Models, LLM)은 추론 비용과 메모리 사용량을 줄이기 위해 사후 양자화(post-training quantization)를 통해 압축되는 경우가 많지만, 이러한 압축이 정렬(alignment)과 공정성(fairness)에 어떤 영향을 주는지는 충분히 규명되지 않았습니다. 저자들은 기존 연구가 주로 단일 정밀도 수준만 비교하거나 집계형 지표에 의존해, 실제 배포 환경에서 발생할 수 있는 항목 수준의 편향 출현을 놓친다는 문제의식에서 출발합니다. 이를 검증하기 위해 Qwen2.5-7B, Mistral-7B, Phi-3.5-mini의 세 가지 지시튜닝 모델을 대상으로 BF16부터 3-bit까지 다섯 개 정밀도 수준을 적용하고, 12,148개의 Bias Benchmark for Question Answering(BBQ) 항목을 다섯 개 무작위 시드로 반복 평가하여 총 911,100개의 추론 기록을 수집했습니다. 특히 BBQ의 모호한 조건을 사용해 정답이 사실상 “unknown”이어야 하는 상황을 구성함으로써, 모델이 특정 집단을 선택하는 순간을 곧바로 고정관념적 추론으로 해석할 수 있도록 실험을 설계했습니다. 이 접근의 핵심은 양자화 수준을 단순한 이분법이 아니라 연속적인 압축 축으로 다루며, 편향이 어느 지점에서부터 눈에 띄게 증가하는지를 정밀하게 추적한 데 있습니다. 이를 위해 고정관념 의존도 점수(Stereotype Reliance Score, SRS)와 미지 응답률(Unknown Selection Rate, USR)을 함께 사용하여, 모델이 모호한 맥락에서 자제하는 능력과 고정관념에 끌리는 경향을 동시에 측정했습니다. 또한 항목 수준 결과를 시드별로 집계하고, 로지스틱 회귀(logistic regression)를 통해 비트 폭(bit-width) 감소에 따른 편향 증가가 임계값적 현상이 아니라 점진적인 도스-리스폰스(dose-response) 패턴을 보이는지 검증했습니다. 이러한 설계는 압축이 평균적인 품질 하락만을 일으키는 것이 아니라, 일부 항목에서는 완전히 새로운 편향을 유발할 수 있음을 드러내기 위한 것입니다. 실험 결과는 3-bit 양자화에서 기존에 편향이 없던 항목의 6~21%가 새롭게 고정관념적 행동을 보였고, unknown을 선택하는 비율도 17.4% 감소했음을 보여줍니다. 더 중요한 점은 이런 변화가 퍼플렉서티(perplexity) 같은 전통적 품질 지표에는 거의 반영되지 않았다는 사실입니다. 실제로 8-bit에서는 퍼플렉서티 증가가 0.5% 미만, 4-bit에서도 3% 이하였지만, 이미 4-bit 단계에서 2.5~5.6%의 항목이 새로운 편향을 보이기 시작했습니다. 이는 집계형 평가가 공정성에 치명적인 열화를 체계적으로 놓칠 수 있음을 의미하며, 모델 압축을 단순한 효율화 기법이 아니라 정렬 유지 관점에서 함께 검증해야 함을 시사합니다. 결국 이 연구는 저정밀도 압축이 언어모델의 일반 성능을 유지하는 것처럼 보이더라도, 특정 입력에서는 정렬을 되돌리고 편향을 증폭시킬 수 있다는 점을 실증적으로 보여주며, 배포 전 편향 출현을 명시적으로 점검하는 품질 인지형 압축 프로토콜의 필요성을 제안합니다.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.