Rift: 언어 모델 속 기만을 위한 갈등 시그니처
Rift: A Conflict Signature for Deception in Language Models
진실을 알면서 거짓말하는 모델은 ELK가 행동 평가만으로는 다룰 수 없는 핵심 사례이다. 우리는 이러한 기만이 정직한 오류와 구별되는 내부 시그니처를 남기는지 묻는다. 핵심 전략은 오류에 대한 통제이다: 우리는 슬리퍼 에이전트(진실을 알고 트리거 시 거짓말함)와 순진한 거짓말꾼(정직한 학습 없이 동일한 오답을 출력하도록 파인튜닝됨)을 대비한다. 둘 다 동일한 오답을 생성하며, 차이는 부정확함이 아니라 지식 충돌에 관한 것이다. 기만적인 순전파는 갈등 시그니처를 지닌다는 것을 발견했다—동일한 오답에 대해 순진한 거짓말꾼의 순전파보다 잔차 랭크(residual rank)가 2.1–2.3배 더 높다—이는 GPT-2 small/medium(세 가지 시드)과 세 개의 instruct 모델 전반에 걸쳐 레이블 없이 두 응답 중 어느 것이 거짓말인지 100% 정확도로 식별할 만큼 강하다. Qwen2.5-1.5B/7B와 Phi-3-mini에 걸쳐, instruct 기만은 검증된 모든 사실에서 잔차 랭크를 높인다(18/18, 40/40, 34/34); Phi-3에서는 거짓말이 정직한 답변과 환각 모두와 완벽히 분리된다(AUC 1.0, Wilcoxon p~6e-11). 이 시그니처는 전략적 자기 구성 기만(모델이 스스로 거짓말을 만들어냄, AUC 1.0), 능동적 은폐 시도(AUC 1.0), 길이 통제 복제(20/20, AUC 1.0, p~1e-6)에서도 유지된다. 기저(basis) 없는 상대 표현을 사용하여, 한 모델 계열에서 학습된 프로브가 제로샷으로 다른 두 계열에서 기만을 탐지한다(평균 AUC 0.933), 동시에 아키텍처와 형식 변화(AUC 0.821)를 견디며, 다섯 개 언어에 걸쳐 이전된다(AUC 1.000, 길이 통제). 이 시그니처는 읽기 전용이다: 탐지는 가능하지만 주입은 불가능하다(양방향 모두 0/8). 정직한 한계와 여섯 가지 부정 실험은 전부 문서화되어 있다.