PyTorchKR Papers

최신 논문

총 3편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2609.27041v1cs.AI

LLM의 수학적 추론은 주제가 아닌 접근 방식에 따라 조직된다

Math Reasoning in LLMs is Organized by Approach, Not Topic

수학적 추론 벤치마크는 일반적으로 주제별로 구성되지만, 언어 모델은 내부 연산을 재사용 가능한 추론 접근 방식(reasoning approach)에 따라 조직할 수 있습니다. 본 논문에서는 수학 능력을 갖춘 오픈 대규모 언어 모델(LLM)이 내부적으로 주제별 하위 기술에 따라 조직되는지, 아니면 추론 접근 방식에 따라 조직되는지 조사하며, 접근 방식이 핵심이라는 증거를 제시합니다. 우리는 생성-재생(generation-replay) 프로토콜을 도입합니다. 즉, 모델이 먼저 해법을 생성한 후 동일한 프롬프트 및 생성 궤적을 재생하여 추론 토큰에 걸친 활성화-중요도 시그니처를 추출합니다. 우리는 8개 모델과 5개 수학 추론 소스에 걸쳐 비지도 방식으로 이러한 시그니처를 클러스터링한 다음, 구조적·의미적·개입 테스트를 통해 복원된 구조를 평가합니다. 40개의 모든 모델-소스 조합에서 복원된 클러스터는 크기가 일치하는 무작위 베이스라인보다 우수한 성능을 보입니다. 두 곳의 독립적인 프론티어 LLM 심사위원은 소스 내 대조군에서의 6~11%와 비교해 실제 클러스터의 77~82%에서 접근 방식 수준의 일관성을 확인했으며, 주제 순수 클러스터는 대개 주제 자체보다 더 세부적인 레이블을 받습니다. 접근 방식 제어 프롬프트에서 요청된 추론 접근 방식을 변경하면 8개 모델 조건 중 7개에서 클러스터 할당이 이동하는 반면, 패러프레이즈(paraphrase)는 이를 대체로 유지합니다. 이러한 결과는 수학 능력을 갖춘 LLM이 벤치마크 주제보다는 추론 접근 방식에 따라 내부 수학 연산을 조직함을 보여줍니다. 이는 주제별로 계층화된 벤치마크와 주제 균형이 맞춰진 학습 코퍼스라 하더라도 중요한 축을 놓칠 수 있음을 시사합니다. 즉, 의도적으로 주제 균형을 맞춘 코퍼스라 할지라도 추론 접근 방식에 있어서는 여전히 불균형할 수 있습니다.

arXiv:2506.08359v3cs.CL

REAL: 언어 모델 스티어링의 정밀 위치 파악을 위한 트랜스포머 활성화 읽기

REAL: Reading Out Transformer Activations for Precise Localization in Language Model Steering

추론 시점 스티어링(inference-time steering)은 대규모 언어 모델(LLM)의 파라미터를 변경하지 않고 응답을 바꾸는 것을 목표로 하지만, 목표 행동을 가장 강하게 제어하는 내부 모듈을 식별하는 것이 핵심 과제이다. 기존 접근법은 단순한 단서나 임시방편적 휴리스틱에 의존하는 경우가 많아, 최적화되지 않거나 의도치 않은 효과를 초래한다. 우리는 트랜스포머 모델에서 행동 관련 모듈(어텐션 헤드 또는 레이어)을 식별하기 위한 프레임워크인 REAL을 제안한다. 각 모듈에 대해 REAL은 은닉 활성화에 대해 벡터 양자화 오토인코더(VQ-AE)를 학습시키고, 공유된 학습 가능한 코드북을 사용하여 잠재 공간을 행동 관련 및 행동 무관 부분 공간으로 분할한다. REAL은 VQ-AE 인코딩이 이진 분류(binary classification) 지표를 통해 행동 일치 응답과 행동 위반 응답을 얼마나 잘 구별하는지로 모듈의 행동 관련성을 정량화하며, 이 점수가 모듈 선택과 스티어링 강도를 모두 안내한다. 우리는 Llama 및 Qwen 계열의 8개 LLM과 진실성 향상, 지식 충돌 하의 개방형 QA, 일반 정렬(alignment) 태스크를 포괄하는 9개 데이터셋에서 REAL을 평가한다. REAL은 보다 효과적인 추론 시점 개입을 가능하게 하며, 진실성 스티어링에서 ITI 방법 대비 평균 20%(최대 81.5%)의 상대적 성능 향상을 달성한다. 또한, REAL이 선택한 모듈은 교차 도메인 진실성 스티어링 시나리오에서 강력한 제로샷(zero-shot) 일반화를 보인다.

arXiv:2606.24964v1cs.LG

Evidence for feature-specific error correction in LLMs

슈퍼포지션(superposition) 연산 이론이 예측하는 feature 방향 우대형 오류 보정을, residual stream 활성화 교란과 Lp 노름 기하 분석으로 대규모 언어 모델(LLM)에서 처음 실증한다. 대조·MELBO·SAE 후보 feature 방향은 p>2를, 무작위·PCA 대조는 p≈2를 보이며 Gemma, Qwen, Llama 등 여러 모델에서 재현된다.