arXiv:2602.24210v4 cs.CL

누출되는 생각에서 비공개 추론으로: 대규모 추론 모델(LRM)이 스스로에게 말하는 내용 통제하기

From Leaky Thoughts to Private Reasoning: Controlling What LRMs Say to Themselves

Haritz Puerto, Haonan Li, Xudong Han, Timothy Baldwin, Iryna Gurevych

제출 2026-02-27

한국어 초록

대규모 추론 모델(LRM)은 흔히 민감한 정보를 포함하는 추론 흔적(RT)을 생성합니다. 이러한 누출되는 생각(leaky thoughts)은 제어하기 어렵고 명시적인 프라이버시 지침을 자주 위반합니다. RT는 프롬프트 주입 공격을 통해 노출될 수 있으므로, 이는 사용자에게 직접적인 프라이버시 위험이 됩니다. 본 연구에서는 이를 제어 가능성(controllability) 문제로 접근합니다. 즉, 프라이버시 지침 자체도 지시사항이므로, RT 내에서 인스트럭션 수행(IF) 능력을 향상시키는 것이 프라이버시 유출을 줄이는 직접적인 경로를 제공합니다. 이를 위해 모델이 추론 과정 전반에 걸쳐 일반적인 지시사항을 따르도록 학습시키는 SFT 데이터셋을 소개하고, 각 구성 요소의 IF를 극대화하기 위해 별도의 LoRA 어댑터를 사용하여 RT와 답변 생성을 분리하는 단순한 디코딩 전략인 단계별 디코딩(Staged Decoding)을 제안합니다. 두 개 제품군(1.7B-14B 매개변수)의 6개 모델을 대상으로 두 개의 IF 벤치마크와 두 개의 프라이버시 벤치마크에서 본 접근법을 평가합니다. 추론 성능과 IF 간의 트레이드오프로 인해 작업 효용성(task utility) 저하가 수반될 수 있으나, 본 연구의 방법은 IF에서 최대 20.9점, 프라이버시 벤치마크에서 51.9퍼센트포인트의 향상을 보이며 상당한 개선을 달성합니다. 연구 결과는 LRM의 IF 능력을 개선하는 것이 프라이버시를 크게 강화할 수 있음을 보여주며, 향후 프라이버시를 고려하는 LRM을 위한 유망한 방향을 제시합니다. 코드는 https://github.com/UKPLab/arxiv2026-controllable-reasoning-models 에서 확인할 수 있습니다.

원문 초록

Large reasoning models (LRMs) produce reasoning traces (RTs) that often contain sensitive information. These leaky thoughts are difficult to control and frequently violate explicit privacy directives. Because RTs can be exposed through prompt injection attacks, this becomes a direct privacy risk to the user. We approach this as a controllability problem: since privacy directives are themselves instructions, improving instruction-following (IF) within the RT provides a direct path to reducing privacy leaks. To this end, we introduce an SFT dataset that teaches models to follow general instructions throughout their reasoning process, and propose Staged Decoding, a simple decoding strategy that decouples RT and answer generation using separate LoRA adapters to maximize IF of each component. We evaluate our approach on six models from two families (1.7B-14B parameters), across two IF benchmarks and two privacy benchmarks. Our method yields substantial improvements, with gains of up to 20.9 points in IF and 51.9 percentage points on privacy benchmarks, though these can come at the cost of task utility due to the trade-off between reasoning performance and IF. Our results show that improving IF in LRMs can significantly enhance privacy, suggesting a promising direction for future privacy-aware LRMs. Our code is available at https://github.com/UKPLab/arxiv2026-controllable-reasoning-models.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2602.24210v4제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.