LLM 디지털 트윈에서 활성값 조향은 프롬프트 기반 정서 점화를 대체할 수 있는가?
Can Activation Steering Substitute for Prompt-Based Affective Priming in LLM Digital Twins?
한국어 초록
정서 점화는 사회과학에서 정서를 조작하는 표준적인 방법이다. 참여자에게 감사함을 느꼈거나 통제력을 잃었다고 느낀 때 같은 과거 사건을 떠올려 글을 쓰게 한 뒤, 유도한 정서 상태와 관련 판단에 미친 파급 효과를 측정한다. 이 방법은 대규모 언어 모델(LLM) 기반 디지털 트윈의 응답도 바꾼다. 다만 글쓰기 과제에서는 완성된 글을 생성해야 한다. 활성값 조향으로 이 글쓰기 과제를 대신할 수 있는지 시험했다. 감사와 통제력 부족의 두 영역에서 페르소나 100개에 Llama-3.1-8B-Instruct를 적용했다. 기존 Twin-2K-500 Mega Study(J2)를 재현하는 실제 프롬프트 방식과, 글쓰기를 건너뛰고 사람이 쓴 글에서 추출한 평균 차이 방향을 여러 강도로 잔차 스트림에 더하는 주입 방식을 비교했다. 여섯 비교 중 다섯 개에서 실제 프롬프트의 효과는 기존 실험의 사람과 디지털 트윈 사이에 있었다. 주입 강도가 높아지면 조작 점검 지표가 이에 따라 달라졌다. 감사 영역의 특정 강도(베타 약 2.7)에서는 실제 프롬프트 효과와 일치했지만 그 강도를 넘으면 효과를 과대 재현했다. 정서에 가까운 지표에서도 그랬으며, 두 방향의 효과는 비대칭적이었다. 구조를 동일하게 맞추고 활성값은 주입하지 않는 기준선으로 차이의 원인을 두 가지로 구별했다. 글쓰기를 생략하면 두 영역 모두에서 근접 지표가 높아졌다. 주입 방향 자체는 통제력 부족 영역의 원거리 지표를 바꿨다. 따라서 대체 가능성은 측정 지표에 따라 달라진다. 한 가지 정서 유도 방식에서 확인한 타당성이 다른 방식에도 일률적으로 적용되지는 않는다.
원문 초록
Affective priming -- asking participants to write about a recalled event, such as a time they felt grateful or lacked control, and then measuring the induced state and its spillover onto related judgments -- is a standard way to manipulate emotion in the social sciences, and it also shifts the responses of LLM-based digital twins. The writing task, however, requires generating a full text. We test whether activation steering can replace it. Using Llama-3.1-8B-Instruct on 100 personas in two domains (gratitude, lack of control), we compare a real-prompt path replicating the original Twin-2K-500 Mega Study (J2) with an injection path that skips the writing and adds a mean-difference direction, extracted from human writing, to the residual stream at varying strengths. The real-prompt effects fall between the original human and digital-twin effects in 5 of 6 comparisons. Injection shifts the manipulation check in a dose-dependent way and matches the real-prompt effect at one strength in the gratitude domain (beta ~ 2.7), but overshoots beyond it, on the proximal measure as well, and asymmetrically across the two directions. A structure-matched No-Injection baseline separates two sources of difference: omitting the writing task raises the proximal measure in both domains, whereas the injected direction itself moves a distal measure in the lack-of-control domain. Substitution is therefore measure-dependent: validity established for one way of inducing a state does not carry over uniformly to another.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2611.22738v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.