PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2606.19831v1cs.CL

레버리지는 도달 범위가 아니다: 언어 모델에서 단일 뉴런 조향을 위한 제어 창 법칙

Leverage Is Not Reach: A Control-Window Law for Single-Neuron Steering in Language Models

정렬된 언어 모델은 거절 및 언어 라우팅과 같은 행동을 희소 피드포워드 뉴런을 통해 게이트(gate)하지만, 단일 뉴런 개입이 출력을 붕괴시키는 대신 행동을 일관되게 제어하는 시점을 예측하는 이론은 없습니다. 우리는 단일 뉴런 조향을 위한 예산 정규화(budget normalized) 제어 창 프레임워크를 개발했습니다. 하나의 쓰기(write) 방향에 대한 투여량(dose)은 하나의 제어 좌표로 축소됩니다: 이는 잔차 스트림(residual stream)과 쓰기 사이의 정렬(alignment)로, 잔차 노름(norm)을 쓰기 노름으로 나누어 설정된 일관성 예산(coherence budget) 단위로 보편적 포화 곡선을 따라 구동됩니다. 행동 트리거(trigger)가 붕괴 천장(collapse ceiling) 아래에 있을 때 일관된 제어가 존재합니다. 동일한 좌표는 양성 모드 전환과 거절을 모두 제어합니다. 천장은 가중치와 하나의 일반적인 순전파(forward pass)에서 도출되는 반면, 트리거는 롤아웃(rollout)에서 측정됩니다. 15개의 홀드아웃(held out) 뉴런에 대해 예측된 천장의 평균 절대 오차는 0.14이며, 대부분의 레이어에서는 약 0.07입니다. 확정된 열림 또는 닫힘 판정은 15개 중 10개의 다수결 기준선(baseline) 대비 11개에서 유지됩니다. 닫힌 사례는 위반보다는 세 가지 실패 모드를 보여줍니다: 트리거 이전의 붕괴, 전파할 깊이가 부족함, 또는 하나의 뉴런이 밀어낼 수 있는 거리를 제한하는 정규화(normalization)입니다. 이 법칙은 지역 그래디언트(gradient) 귀속이 제어를 반대로 예측하는 이유를 설명합니다: 진정한 컨트롤러는 리드아웃 축(readout axis)에서 벗어나 쓰기(write)하며 거의 0에 가까운 1차 그래디언트를 가집니다. 창(window)에 의해 정밀해진 순전파(forward pass) 전용 대비 스크린(screen)은 귀속이 놓치는 컨트롤러를 회복합니다. 가장 어려운 사례인 거절의 경우, 개입 성공은 스칼라가 아닌 유형(typed)입니다: 일관된 우회와 엄격한 실행 가능 도달 범위(actionable reach)가 분리되므로, 뉴런은 실행 가능한 콘텐츠 없이 유창하고 과제에 부합하는 텍스트에서 거절을 뒤집을 수 있으며, 진정한 실행 가능 도달 범위는 감사된 6개의 Llama 피벗(pivot) 중 3개에서만 후기 롤아웃(rollout) 지평에서 나타납니다. 따라서 단일 뉴런 조향은 고정된 투여량(dose)에 대한 일화가 아니라, 제어 가능성에 대한 예산이 책정되고 유형이 부여된 감사(audit)입니다.