PyTorchKR Papers

업데이트된 논문

총 2편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2606.29441v2cs.CR

활성화 콘 사각지대 해소: 응답 시간 프로빙과 통합 방어

Closing the Activation-Cone Blind Spot: Response-Time Probing and Unified Defense

v2 관련 안내(2026년 11월): 평가 코드에서 오류가 발견되어 v1에 보고된 실험 결과는 뒷받침되지 않는다. 이론적 따름정리는 영향을 받지 않는다. 자세한 내용은 1쪽의 공지와 링크된 저장소의 KNOWN_ISSUES.md에 있다. 우리는 7개의 지시 튜닝 모델(7-31B)과 5가지 공격 유형(GCG, AutoDAN, DeepInception, prefilling, intent laundering)에 걸쳐 5가지 추론 시점 안전 패러다임(방어 없음, 정적 스티어링, CAST, AlphaSteer, 프로브 게이트 스티어링)을 비교한다. 우리는 하나의 따름정리를 도출한다. 개입 여부를 단일 층의 활성화가 양성 참조(원뿔, 부분공간 또는 영공간)와 정렬되는지에 따라 결정하는 방어는, 프롬프트 시점에 검사하든 토큰별로 검사하든, 활성화가 그 참조 내부에 놓이도록 조작하는 공격에 대해 맹점을 가진다. prefilling 공격에 대해서는 응답 시점 프로빙(response-time probing)을 제안하는데, 이는 처음 생성되는 토큰들의 은닉 상태에 대한 선형 프로브와 중단(halt)을 결합한 것이며, 이 중단을 AlphaSteer의 영공간 스티어링과 결합한다. 또한 MMLU가 스티어링의 유용성 비용을 포착하는지, 그리고 음성 학습 집합의 다양성이 프로브의 거짓 양성률에 어떤 영향을 미치는지도 살펴본다. 코드, 공격, 샘플별 결과를 공개한다.

arXiv:2607.21620v2cs.AI

프로필에서 스티어링 벡터로: 개인화 텍스트 생성을 위한 전역 희소 사전과 지역적 의미 보정

From Profiles to Steering Vectors: Global Sparse Priors and Local Semantic Calibration for Personalized Text Generation

개인화 텍스트 생성은 모델이 과거 데이터로부터 사용자 고유의 문체를 포착해야 한다. 검색, 매개변수 효율적 미세조정, 또는 활성화 스티어링(activation steering)에 기반한 기존 접근법은 추론 및 저장 오버헤드를 유발하거나, 문체적 신호와 의미적 내용을 분리하는 데 어려움을 겪는다. 우리는 희소 사전(sparse priors)을 활용한 전역-지역 활성화 스티어링(Global-Local Activation Steering)을 통해 개인화 생성을 수행하는 학습 없는(training-free) 프레임워크인 GLASS를 제안한다. GLASS는 희소 오토인코더(sparse autoencoders)를 사용하여 과거 응답으로부터 전역 사용자 문체 사전을 추출하고, 클러스터링된 상호작용 시나리오에 대해 지역적 대조적 문체 벡터를 구성한다. 추론 시, 전역 및 지역 벡터를 서로 다른 모델 레이어에 공동으로 주입하여, 검색이나 매개변수 업데이트 없이 문맥 인식 개인화를 가능하게 한다. LaMP 및 LongLaMP에서의 실험은 GLASS가 ROUGE 지표와 LLM-as-judge 평가 전반에 걸쳐 검색-, 미세조정-, 스티어링 기반 베이스라인을 능가함을 보여준다. 추가 분석은 SAE 기반 표현이 주제 및 길이 변화에 더 강건하여, 문체 정보와 의미적 잔여(semantic residue)의 더 나은 분리를 시사함을 보여준다.