PyTorchKR Papers

최신 논문

총 3편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2605.24140v5cs.AI

HyperGuide: 대규모 언어 모델의 효율적인 다단계 추론을 위한 쌍곡 공간 유도

HyperGuide: Hyperbolic Guidance for Efficient Multi-Step Reasoning in Large Language Models

대안적인 후속 생성을 탐색하면 대규모 언어 모델(LLM)이 추론 단계를 확정하기 전에 이후의 결과를 비교할 수 있지만, 수많은 분기를 확장하고 평가하는 과정은 추론 비용을 크게 증가시킵니다. 중간 단계를 점수화하도록 가치 모델을 학습하더라도 추론 시점에 여전히 후보들을 순위화해야 하므로 이러한 비용을 피할 수 없습니다. 본 논문에서는 추론을 쌍곡 공간(hyperbolic space)에 임베딩된 상태 트리 상에서의 이동으로 다루는 프레임워크인 HyperGuide를 제안합니다. HyperGuide는 먼저 푸앵카레 공(Poincaré ball) 상에서 상태 인코더를 학습한 다음, 현재 상태로부터 최소 비용 전이의 방향을 예측하도록 유도 헤드(guidance head)를 학습합니다. 예측된 방향은 각 추론 단계 이후 가상 토큰으로 디코더에 삽입되므로, 후보를 확장하거나 재순위화하지 않고도 단일 자기회귀 궤적을 따라 추론이 진행됩니다. 또한 지도 방식이 이진이 아닌 순서형(ordinal)이므로 신뢰할 수 있으면서도 짧은 후속 생성을 선호하여 생성이 성공적이고 간결한 해결책을 향하도록 유도합니다. 경시 수학 및 코드 생성에 대한 실험 결과, HyperGuide는 탐색 및 검증기 기반 베이스라인보다 훨씬 적은 토큰을 생성하면서도 이들 베이스라인과 일치하거나 이를 능가하는 정확도를 달성하며, 퓨샷(few-shot) 프롬프트와 거의 비슷한 수준의 토큰만을 생성함을 보여줍니다.

arXiv:2606.17524v2cs.LG

신뢰할 수 있는 LLM 추론을 위한 은닉 상태 정제 학습

Learning to Refine Hidden States for Reliable LLM Reasoning

대규모 언어 모델(LLM)은 강력한 추론 능력을 보여주지만, 복잡한 다단계 설정에서 내부 추론 과정이 불안정할 수 있으며, 초기 은닉 상태 오류가 잘못된 예측으로 전파될 수 있습니다. 우리는 디코딩 전에 은닉 표현을 반복적으로 업데이트하는 강화 학습 기반 잠재 정제 프레임워크인 ReLAR를 제안합니다. ReLAR는 컴팩트한 잠재 추론 상태를 유지하며, 학습된 깊이 및 행동 컨트롤러를 사용하여 정제 단계의 수와 방향을 적응적으로 결정합니다. 컨트롤러는 단계별 가능도(likelihood) 개선에 기반한 정책 그래디언트(policy gradient) 목적함수로 학습되며, 명시적인 사고의 연쇄(Chain-of-Thought) 생성 없이 효율적인 입력 의존적 추론을 가능하게 합니다. 의학, 수학, 다중 홉(multi-hop) 추론, 및 개방형 생성 벤치마크에 대한 실험 결과, ReLAR는 명시적 추론 기준선보다 훨씬 낮은 추론(inference) 오버헤드로 정확도, 생성 품질, 및 추론 안정성을 향상시키는 것으로 나타났습니다.

arXiv:2606.26103v1cs.CL

LLM의 문제 해결 능력 조사 -- 정역학 문제에 대한 연구

Investigating LLM's Problem Solving Capability -- a Study on Statics Questions

대규모 언어 모델(LLM)은 다양한 과목에 대한 과제와 시험을 완료하는 능력이 입증되어, 특히 교육 분야에서 사회의 많은 측면에 빠르게 영향을 미쳤다. 비록 이전 연구들이 LLM의 교육적 영향을 조사했지만, 기존 연구의 상당 부분은 공개 또는 개방형 문제 데이터셋에 의존하고 주제별 분석이 부족하다. 공학 교육, 특히 기계공학 분야에서 특정 문제 유형에 대한 LLM 성능의 체계적인 조사는 여전히 제한적이다. 교과서 문제를 LLM 도구에 직접 질문하는 전통적인 방법을 사용하는 대신, 본 연구는 모델 증류(model distillation) 과정을 채택하여 정역학 문제 해결에서의 LLM 역량을 평가한다. ChatGPT를 증류하여 25개의 텍스트 전용 정역학 문제를 추출했으며, 도형을 추가하고 수치를 변경하여 두 개의 추가 데이터셋을 더 구성했다. 실험 결과, LLM은 텍스트 전용 정역학 문제에서 좋은 성능을 보이지만, 도형이 도입되고 문제가 다단계 추론을 요구할 때 정확도가 감소한다는 것을 보여준다. 추가 분석은 이러한 성능 저하가 주로 이미지 인식의 한계 때문이 아니라, 다단계 추론의 어려움과 연속적인 풀이 단계에서 추출된 시각 정보를 일관되게 적용하는 데 따른 어려움 때문임을 시사한다.