PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2509.18169v4cs.LG

PiERN: 고정밀 계산과 추론의 통합을 위한 토큰 수준 라우팅

PiERN: Token-Level Routing for Integrating High-Precision Computation and Reasoning

복잡한 시스템을 다루는 작업에서는 의사결정을 뒷받침하기 위해 고정밀(high-precision) 수치 계산이 필요합니다. 그러나 현재의 대규모 언어 모델(LLM)은 향상된 추론 능력을 갖추었더라도 기존 아키텍처 하에서는 이러한 계산을 내재적이면서도 해석 가능한 역량으로 통합하지 못합니다. 이를 해결하기 위해, 본 논문에서는 토큰 수준에서 계산과 추론을 유도하여 단일 사고의 연쇄(Chain-of-Thought) 내에서 반복적인 상호 전환을 가능하게 하는 아키텍처인 PiERN(Physically-isolated Experts Routing Network)을 제안합니다. 저자들은 PDEBench 및 배터리 관리 작업을 포함한 대표적인 계산-추론 작업에서 PiERN을 체계적으로 평가했습니다. 실험 결과, PiERN은 LLM을 직접 파인튜닝하는 것보다 더 높은 정확도를 달성할 뿐만 아니라, 주류 멀티 에이전트(multi-agent) 접근 방식에 비해 응답 지연 시간, 토큰 사용량, GPU 에너지 소비량 및 전문가 라우팅 정확도에서 상당한 개선을 보였습니다. 동시에 MMLU 및 GLUE 벤치마크 성능에서도 유의미한 저하를 나타내지 않았습니다. PiERN은 언어 모델을 과학 시스템과 연계하기 위한 효율적이고 해석 가능하며 확장 가능한 패러다임을 제공합니다.