PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2606.11399v1cs.CL

대규모 언어 모델에서 시나리오 기반 문화적 가치 프로빙 및 조종 -- 확장판

Scenario-based Probing and Steering Cultural Values in Large Language Models--Extended Version

대규모 언어 모델(LLM)은 다양한 문화적 맥락에 배포되지만, 종종 학습 데이터에서 물려받은 동질화된 가치를 반영합니다. 문화적 정렬에 대한 평가는 일반적으로 설문조사 스타일의 질문을 통한 직접 프롬프팅에 의존하는데, 이는 종종 중립적이거나 안전성 정렬된 응답을 유도하고 모델의 근본적인 선호도를 포착하는 데 실패합니다. 우리는 세계 가치관 조사(WVS)의 두 가지 인글하트-웰철 축을 따라 LLM 내 잠재적인 문화적 표현을 프로빙하고 조종하는 프레임워크를 제안합니다. 사회적 가치 질문을 시나리오 기반의 행동 딜레마로 변환하여, 우리는 암묵적 가치를 측정하기 위해 토큰 수준 확률을 추출하고 재학습 없이 모델 행동을 변화시키기 위해 활성화 조종(activation steering)을 적용하며, 필요에 따라 국가 조건부 프롬프팅과 결합합니다. 세 가지 오픈 소스 LLM과 네 가지 목표 문화에 걸쳐, 우리는 조종 가능성에서 상당한 변화를 발견하고 잠재적 얽힘(latent entanglement)을 식별했는데, 여기서 한 문화적 차원에 대한 개입이 다른 차원에서의 변화를 유도합니다. 이러한 결합은 인간 WVS 데이터의 상관관계를 반영하며 활성화, 프롬프트 및 하이브리드 조종 전반에 걸쳐 지속됩니다. 이는 축 독립적 정렬을 제한하지만, 일반적인 작업 성능은 대체로 유지됩니다.