PyTorchKR Papers

업데이트된 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2607.04096v2cs.AI

Forethought: 신경기호 프리미티브 프로그래밍을 통한 검증 가능한 추론

Forethought: Verifiable Reasoning from Neurosymbolic Primitive Programming

현대의 에이전트 워크플로는 사용자 요청을 올바르게 해석된 매개변수를 갖는 일련의 도구 호출로 분해하고, 그 결과를 언어 모델의 컨텍스트 창 안에서 추론 흔적을 통해 처리한다. 이러한 추론을 개선하는 지배적인 방법은 긴 사고 사슬을 탐색하도록 모델을 학습시키는 테스트 시점 스케일링이지만, 그 결과로 얻어지는 능력은 모델 가중치에 얽혀 있어 단계별로 검증할 수 없고 추론 비용도 크다. 본 논문은 타입이 지정된 도메인 특화 언어를 통해 조합되는 기호적 및 신경망 기본 요소 라이브러리로 구성된 신경기호 추론 시스템 Forethought를 제시한다. 그 결과물은 추론 프로그램, 즉 모델의 작업을 구체적으로 표현한 것으로, 모든 단계가 설계 시점에 검사되고 실행 시점에 강제되는 출력 계약을 갖는다. 기호적 단계는 구성상 성립하며, 학습된 단계는 계약 검사와 경험적 검증을 거쳐, 보장되는 것과 측정되는 것 사이의 명시적 경계를 제공한다. 도구 호출 실행 커널로 구현하여 네 가지 표준 도구 호출 벤치마크 모음에서 평가한 결과, Forethought는 동일한 기반 모델을 직접 프롬프팅한 경우에 비해 종단 간 정확도를 중앙값 기준 32% 상대적으로 향상시켰으며, 평가한 구성 중 가장 높은 종합 정확도에 도달하였다. 다만 프런티어 모델과의 차이는 단일 실행 잡음 범위 내이다. 소형 오픈 모델과 Forethought의 고정된 소형 모델 계층을 결합한 시스템은 해당 프런티어 모델과 대등한 성능을 보이며, 비추론 응답기를 사용하는 파이프라인은 추론 기반 대응 파이프라인보다 우수하면서도 단 한 번의 미세조정 단계만 요구한다. 계약 및 제어 계층을 제거하면 이러한 이득의 대부분이 사라지며, 이는 분해만이 아니라 검사된 구조가 향상을 이끈다는 것을 보여준다. 본 결과는 더 정확하고 신뢰할 수 있으며 감사 가능한 언어 모델 에이전트를 구축하는 데 풍부한 기호적 오케스트레이터가 가진 잠재력을 보여준다.