상속된 회로, 학습된 의미: 미세조정이 표준 평가로는 드러나지 않는 회피 취약점을 만드는 방식
Inherited Circuits, Learned Semantics: How Fine-Tuning Creates Evasion Vulnerabilities Invisible to Standard Evaluation
보안 분류용 파인튜닝 LLM은 홀드아웃 정확도는 높아도 PowerShell 별칭 치환·명령 재구성·대소문자 변형 같은 동작 보존 변환에서 취약해질 수 있으며, 인과적 개입으로 분류 회로가 Llama에서 상속된 후기 어텐션 경로임을 확인했다. Foundation-Sec-8B-Instruct는 베이스 모델이 놓치지 않는 iwr·Invoke-Expression 변형에서 실패하고, 분류 경계 선형 프로브와 지표 토큰 부호 검사로 배포 전 회피 위험을 식별할 수 있다.