arXiv:2608.00023v3 cs.CL

사회적 시뮬레이션을 위한 언어 모델의 역할 스티어링

Role Steering of Language Models for Social Simulations

Isaac Song, Mohammed Rehan Parwani, Glenn Matlin, Emile Anand, Akhil Theerthala, Arjun Chatterjee, Anthony Wen-Ming Zang, Maria Kostylew, Yonadav G. Shavit, Sebastien Krier, Mark Riedl

제출 2026-07-09

한국어 초록

언어 모델 에이전트로 구성된 사회 시뮬레이션에는 에이전트를 시뮬레이션된 집단에 투입하기 전에 점검할 수 있는 역할 조건부 행동이 필요하다. 우리는 역할 조건부 에이전트를 위한 활성화 조향 선별 워크플로를 제안한다. 이 워크플로는 역할 프로필을 정의하고, 역할별 방향을 추출하고, 네 가지 조향 계수를 훑어 보며, 역할 프로필 정렬도를 평가하고, 각 후보 구성을 통과시키거나 표시하는 단계로 이루어진다. OLMo-3-7B-Instruct에서 228개의 역할 비특정 질문이 포함된 275개 역할의 혼합 목록, GPT-4.1-mini로 프롬프트한 역할 참조, GPT-4.1-mini 판정자를 사용하여 이 워크플로를 적용한다. 또한 기존 페르소나 벡터 연구의 어시스턴트 축 방향 대조군보다 높은 판정 역할 프로필 정렬도를 얻는 CastVectors를 제안하며, 시험한 격자 전체에서 평균 종합 점수는 63.2 대 41.1이다. CastVectors는 높은 어휘 다양성도 유지하는 반면, 대조군은 큰 계수에서 급격히 떨어진다. 역할 수준의 선별이 주요 기여이다. 대부분의 역할은 조향이 증가할수록 향상되지만, 38개 역할은 측정한 여섯 가지 차원 모두에서 하락하며, 이는 시뮬레이션 구축자가 균일한 고강도 설정을 배치하기보다 역할별로 계수를 선택해야 하는 이유를 보여 준다. 코드는 https://github.com/HCAI-Lab-GT/casting-call-vectors 에서, 역할 벡터와 평가 데이터는 https://huggingface.co/datasets/HCAI-Lab-GT/casting-call-vectors 에서 이용할 수 있다.

원문 초록

Social simulations built from language-model agents need role-conditioned behavior that can be checked before agents are placed into a simulated population. We introduce an activation-steering screening workflow for role-conditioned agents: define a role profile, extract a role-specific direction, sweep four steering coefficients, evaluate role-profile alignment, and pass or flag each candidate configuration. On OLMo-3-7B-Instruct, we apply the workflow to a mixed 275-role inventory with 228 role-agnostic questions, GPT-4.1-mini prompted role references, and GPT-4.1-mini judges. We also introduce CastVectors, which receive higher judged role-profile alignment than an assistant-axis directional control from prior persona-vector work, with mean overall scores of 63.2 versus 41.1 across the tested grid. They also preserve high lexical diversity, while the control drops sharply at larger coefficients. The role-level screen is the main contribution: most roles improve as steering increases, but 38 roles decline across all six measured dimensions, showing why simulation builders should choose coefficients per role rather than deploy a uniform high-strength setting. Our code is available at https://github.com/HCAI-Lab-GT/casting-call-vectors, and the role vectors and evaluation data at https://huggingface.co/datasets/HCAI-Lab-GT/casting-call-vectors.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2608.00023v3제출 시각 미확인
  2. arXiv:2608.00023v2제출 시각 미확인
  3. arXiv:2608.00023v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.