PyTorchKR Papers

최신 논문

총 13편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2609.23293v1cs.AI

마지막 고원(Final Plateau)에서 표준 A* 타이 브레이킹 전략에 따른 확장 횟수

Expansion Counts under Standard A* Tie-Breaking Strategies on the Final Plateau

A* 탐색 알고리즘에서 동일한 $f$-값을 갖는 노드에 대한 타이 브레이킹(tie-breaking, 동점 처리) 전략은 A*가 마지막 $f$-층(layer)에서 어떤 상태들을 확장할지 결정합니다. 9가지 표준 타이 브레이킹 전략에 대해, 일관적인 휴리스틱(consistent heuristic) 하에서 모든 전략 쌍마다 임의로 큰 가산적 확장 차이(additive expansion gap)로 상대 전략보다 특정 전략을 선호하게 만드는 양의 비용 인스턴스가 존재함을 보입니다. 매개변수화된 단위 비용 격자 예시 또한 FIFO 및 LIFO를 사용하는 low-$h$ 간에 무한한 확장 횟수 비율을 발생시킵니다. 목표가 아닌 상태에서 $h > 0$인 단위 비용 탐색에서, 목표 근처의 정확한 휴리스틱 값은 상호보완적인 극단적 결과로 이어집니다. 완벽 영역(perfect region) 내의 공통 형상(configuration)으로부터 남은 확장 횟수는 low-$h$가 최소화하는 반면, $h=1$인 모든 마지막 고원 상태가 목표 직전 상태(goal predecessor)일 때 전체 확장 횟수는 high-$h$가 최대화합니다. 마지막으로, 평가 함수 $f_{\alpha} = g + \alpha h$를 사용할 때 목표가 아닌 상태에서 $h>0$이면, 모든 휴리스틱 가중치(weight) $0 \leq \alpha<1$은 타이 브레이킹 민감도를 제거하며 모든 타이 브레이킹 전략이 동일한 상태 집합을 확장합니다.

arXiv:2108.11204v4cs.AI공식 코드 · Papers with Code

복잡한 추론 작업을 위한 서브골 탐색

Subgoal Search For Complex Reasoning Tasks

인간은 한 아이디어에서 관련된 다른 아이디어로 이동하는 정신적 과정을 통해 복잡한 추론(reasoning) 작업을 해결하는 데 뛰어납니다. 이에 영감을 받아, 본 논문에서는 서브골 탐색(Subgoal Search, kSubS) 방법을 제안합니다. 이 방법의 핵심 요소는 달성 가능하면서도 해결책에 더 가까운 다양한 서브골을 생성하는 학습된 서브골 생성기입니다. 서브골을 사용하면 탐색 공간을 줄이고 효율적인 계획 수립(planning)에 적합한 고수준 탐색 그래프를 유도할 수 있습니다. 본 논문에서는 트랜스포머 기반 서브골 모듈을 고전적인 최선 우선 탐색(best-first search) 프레임워크와 결합하여 kSubS를 구현합니다. $k$단계 앞의 서브골을 생성하는 단순한 접근 방식이 두 가지 인기 퍼즐 게임인 소코반(Sokoban) 및 루빅스 큐브(Rubik's Cube), 그리고 부등식 증명 벤치마크인 INT라는 세 가지 까다로운 도메인에서 놀라울 정도로 효율적임을 보여줍니다. kSubS는 적당한 계산 예산 내에서 INT의 최고 성능(SOTA)을 포함한 강력한 결과를 달성합니다.

arXiv:2607.24167v1cs.AI

자기 수정 웹 에이전트를 위한 반증 가능한 약속 계획

Falsifiable Commitment Planning for Self-Correcting Web Agents

장기 웹 에이전트는 최종 실패 전에 종종 궤도를 이탈한다. 현재 상태, 재사용된 스킬, 또는 계획 가정이 더 이상 사용자 지시를 뒷받침하지 않은 후에도 궤적은 국소적으로 그럴듯하게 유지될 수 있다. 기존 에이전트는 계획하고, 반성하거나, 경험을 재사용할 수 있지만, 그들의 계획은 활성 단계가 여전히 신뢰되어야 하는 근거를 거의 명시하지 않는다. 우리는 견고한 장기 웹 에이전트를 위한 반증 가능한 약속 계획(falsifiable commitment planning) 프레임워크인 FCPAgent를 제안한다. FCPAgent는 각 계획 단계를 반증 가능한 약속 단위(Falsifiable Commitment Unit, FCU)로 표현한다. 이는 재사용 가능한 스킬에 그라운딩(grounding)된 하위 목표와 함께 확인 증거, 반증 증거, 신뢰도 점수를 포함한다. 실행은 계획-검증-수리(plan-test-repair) 루프로 구성된다. 하이브리드 약속 검증 모듈은 후보 행동이 브라우저를 수정하기 전과 실행 후 관측을 검증한다. 효율성을 위해 경량 증거 매칭과 대규모 언어 모델(LLM) 기반 진단 검증을 결합한다. 증거가 약속을 반증하면, 범위 인식(scope-aware) 수리가 모순을 실행, 스킬, 또는 계획 수준으로 국한하고 가장 작은 적절한 부분을 수정한다. WebArena에서 FCPAgent는 가장 강력한 기준선 대비 평균 성공률에서 13.8% 상대적 향상을 달성하며, 특히 장기 작업에서 큰 이득을 보인다.

arXiv:2607.14989v1cs.CL

OmniaBench: 다양한 시나리오에 걸친 범용 AI 에이전트 벤치마킹

OmniaBench: Benchmarking General AI Agents Across Diverse Scenarios

대규모 언어 모델(LLM)은 점차 텍스트 생성기에서 사용자 요청을 이해하고, 외부 도구를 호출하며, 상호작용을 통해 복잡한 작업을 완수할 수 있는 범용 에이전트로 진화하고 있다. 그러나 기존 에이전트 벤치마크는 종종 제한된 시나리오, 도구 생태계, 또는 상호작용 형식에 초점을 맞추어, 이질적인 응용 설정 전반에 걸친 모델 역량을 체계적으로 특성화하기 어렵다. 우리는 명시적 상태 공간을 갖는 다양한 시나리오 전반에 걸쳐 범용 에이전트를 평가하기 위한 벤치마크인 OmniaBench를 제안한다. 앱 스토어, 제품 문서, 산업 자료, 웹 검색, 인간의 정제로부터 응용 지향적 시나리오 지식을 도출하여, ToC, ToB, ToE를 아우르는 계층적 분류체계를 구성하였으며, 이는 1급 도메인 90개와 2급 도메인 354개를 포함한다. 이 분류체계를 바탕으로 실행 가능한 환경을 구축하고, 방향성 비순환 그래프(DAG), DAG-S, Solver, Program의 네 가지 상보적 경로를 통해 단일 턴 및 다중 턴 과제를 합성한다. OmniaBench는 또한 세밀한 평가와 분석을 지원하기 위해 10차원 역량 분류체계와 8개의 구성적 원자 난이도 요인을 도입한다. 결과적으로 생성된 데이터셋은 1,431개의 과제를 포함하며, 공개 배포 이후 전체 집합의 잠재적 오염을 완화하고 평가 비용을 줄이기 위해 설계된 644개의 과제로 구성된 도전적인 부분집합도 함께 제공한다. 이 벤치마크는 현재 최첨단 모델에게 상당한 도전을 제시하며, Claude-Sonnet-5와 GPT-5.6-Sol조차 각각 Overall Pass@1 점수 58.54와 57.14에 그친다. 추가 분석은 도메인과 역량 간 뚜렷한 차이, 그리고 계획, 제약 유지, 적응적 수정에서 지속적인 한계를 드러낸다. OmniaBench는 범용 에이전트의 역량 경계를 특성화하기 위한 광범위하고 진단적 벤치마크를 제공한다.

arXiv:2607.14169v1cs.AI

검증된 세계 모델도 여전히 패배할 때: LLM 합성 코드 세계 모델에서 플레이 적합성 대 예측 정확도

When a Verified World Model Still Loses: Play-Adequacy vs Prediction-Accuracy in LLM-Synthesized Code World Models

대규모 언어 모델(LLM)은 게임의 규칙을 실행 가능한 코드, 즉 코드 세계 모델(Code World Model, CWM)로 합성할 수 있으며, 고전적 플래너(planner)가 이를 탐색한다. 이러한 모델은 일반적으로 샘플링된 궤적에서 높은 전이(transition) 정확도를 달성하면 수용된다. 우리는 이것이 계획(planning)을 위한 적합성의 잘못된 개념임을 주장한다. 우리는 네 가지를 보인다. (1) LLM 합성 CWM은 100% 전이 정확도로 샘플링 게이트를 통과하고 플래너 자체의 탐색 분포에서 $\geq 98\%$ 상태 정확도를 달성할 수 있지만, 잘못된 $<1\%$가 정확히 핵심 역학에 해당하기 때문에 플레이에서 체계적으로 패배할 수 있다. 생략된 규칙의 플레이 비용은 $0.091$이다(시드 클러스터링 95% CI $[0.065,0.117]$, $n=4800$). 우리는 이를 검증-정확(verified-vs-correct) 간극이라 부르며, 합성 파이프라인 전체를 통해 이를 확인한다. (2) 피해는 정량적 법칙 $\mathrm{danger}=\mathrm{play\_cost}\times(1-\mathrm{rarity})^N$를 따르며, $(1-\mathrm{rarity})^N$ 게이트 미스 팩터는 정확함이 증명되고 플레이 비용은 경험적으로 유계(bounded)됨이 밝혀진다. (3) 이 실패는 더 많은 데이터로 보완되지 않는다. LLM 합성은 규칙 추론(rule inference)이 아니라 규칙 번역(rule translation)처럼 동작하며, 모델(GPT-5.x)과 데이터 체제(DAgger 및 표적 예제 포함)를 가로질러 생략된 규칙을 추론하지 못했다. (4) 동일한 메커니즘은 불완전 정보 CWM의 신념 추론(belief-inference) 함수에서도 재현된다. 우리는 커버리지 경계를 증명한다(크기 $N$ 게이트는 $N\gtrsim b^{d_{\max}}$일 때 식별 가능(identifying)하다). 이는 Kuhn poker와 같은 얕은 게임에서 간극이 나타나지 않는 이유를 설명하며, 게이트는 통과하지만 모든 게임에서 패배하는 검증되었지만 틀린(verified-but-wrong) 추론 함수인 Beacon을 수작업으로 구성한다. 이 결과들은 계획 지향 세계 모델의 적합성이 샘플링된 전이에 대한 예측 정확도가 아니라 탐색 분포에서 또는 플레이를 통해 직접 측정되어야 함을 시사한다.

arXiv:2607.10362v1cs.LG

잠재 세계 모델에서 예측 가능성의 제어 이론

A Control Theory of Predictability in Latent World Models

잠재 세계 모델(latent world model)은 학습된 표현 공간에서 미래 상태를 예측하도록 학습되며, 이후 후보 행동을 순방향으로 시뮬레이션하여 행동을 선택하는 플래너(planner) 내부에 배포된다. 현재의 관행은 보류 데이터에 대한 단일 또는 다단계 롤아웃 손실인 예측 오차를 학습 및 모델 선택 목적함수로 채택하며, 예측 오차가 낮을수록 더 나은 제어를 달성한다고 가정한다. 우리는 이 가정이 구조적인 이유로 신뢰할 수 없음을 보인다: 플래너는 학습 분포가 아니라 후보 행동이 도달하는 상태들에서 모델을 쿼리하며, 이 상태들은 일반적으로 데이터 매니폴드를 벗어나기 때문에 데이터 평균 오차만으로는 제어를 보장할 수 없다. 따라서 우리는 목적함수를 플래너가 결정한 계획에서의 예측 계획 비용과 실제 계획 비용 간의 불일치로 재정의하고, 플래너의 차선성(suboptimality)이 이 불일치의 두 배로 상한이 결정됨을 증명한다. 반면 데이터 평균 예측 오차는 이를 상한 짓지도 추적하지도 못한다. 선형 제어 가정 하에서 이 불일치는 두 항으로 분리된다. 첫 번째는 작은 매니폴드 내(on-manifold) 잔차로, 이 영역에서는 예측 동역학과 실제 동역학이 일치하며 잠재 전이 연산자(latent transition operator)의 비정규성(non-normality)을 통한 스펙트럼 페널티(spectral tax)로 값이 결정된다. 두 번째는 매니폴드 외(off-manifold) 발산으로, 행동이 상태를 매니폴드 밖으로 이동시켜 두 동역학이 발산하며, 이 발산이 결정적 항(binding term)으로 어떠한 데이터 평균 오차로도 상한이 결정되지 않는다. 합성 연산자(synthetic operator)를 통해 가격 공식을 검증하고, 잠재 모델 예측 제어(latent model-predictive control) 실험을 통해 이 분리를 확인한다: 시드(seed) 전반에 걸쳐 단일 단계 검증 손실은 제어 성공과 사실상 무상관인 반면, 플래너 도달 가능 측도(planner-reachable measure)에 대한 충실도 점수(fidelity score)는 이를 추적한다.

arXiv:2607.11197v1cs.AI

LLM 계획 능력에 대해 우리가 이야기할 때 이야기하는 것: 두 가지 독립적인 계획 능력에 대한 증거

What We Talk About When We Talk About LLM Planning: Evidence for Two Distinct Planning Abilities

대규모 언어 모델(LLM)이 계획 과제에서 고르지 않은 성능을 보일 때, 이러한 격차는 흔히 과제 난이도에 귀인된다. 우리는 이 설명이 불완전하다고 주장한다. 과제 수준의 변동성은 단일 능력 스펙트럼의 차이가 아닌, 잠재적 계획 역량의 차이를 반영할 수 있기 때문이다. 우리는 ACPBench-Hard에서 이 문제를 연구하기 위해 다양한 테스트 시간 추론 예산 조건 하에 여러 LLM 패밀리를 평가하고, 다차원 문항반응이론(item response theory) 모델을 적용하여 LLM 계획 능력의 기저에 있는 잠재적 역량 구조를 분석하였다. 분석 결과, 계획 성능을 결정하는 두 가지 주요 차원이 드러났다: 국소적 행동 적용 가능성과 즉각적 상태 전이를 평가하는 능력인 조작적 추론(operational reasoning)과, 목표 도달 가능성 및 랜드마크 구조에 대해 추론하는 능력인 구조적 열거(structural enumeration)이다. 조작적 추론은 모델 스케일링과 더 긴 추론 경로에 따라 개선되는 반면, 구조적 열거는 이에 비교적 민감하지 않다. 우리의 연구 결과는 LLM 계획 능력의 역량 수준 평가를 촉구하며, 모델이 전반적으로 개선되는지 여부에서 어떤 계획 역량이, 어떤 조건에서, 왜 개선되는지로 평가의 초점을 전환할 것을 제안한다.

arXiv:2601.09097v4cs.AI

생각보다 프로그래밍: 효율적이고 견고한 다중 제약 계획

Programming over Thinking: Efficient and Robust Multi-Constraint Planning

다중 제약 계획(Multi-constraint planning)은 잠재적으로 충돌하는 여러 제약 조건을 만족하면서 후보 계획을 식별, 평가 및 개선하는 작업이다. 기존의 대규모 언어 모델(LLM) 접근 방식은 이 영역에서 근본적인 한계를 지닌다. 긴 자연어 사고의 연쇄(chain)에 의존하는 순수 추론 패러다임은 제약 조건이 누적될수록 비일관성, 오류 누적, 과도한 비용 문제에 취약하다. 반면, 코딩 또는 솔버 기반 전략과 결합된 LLM은 유연성이 부족하여 문제별 코드를 처음부터 생성하거나 고정된 솔버에 의존함으로써 다양한 문제에 걸쳐 일반화 가능한 논리를 포착하지 못한다. 이러한 한계를 해결하기 위해, 우리는 쿼리별 추론과 범용 코드 실행을 분리하는 프레임워크인 SCOPE(Scalable COde Planning Engine)를 제안한다. 추론과 실행을 분리함으로써 SCOPE는 입력 파라미터의 최소한의 변경만으로 쿼리 간에 일관되고 결정론적이며 재사용 가능한 솔버 함수를 생성한다. SCOPE는 비용과 지연 시간을 줄이면서 최첨단 성능을 달성한다. 예를 들어, GPT-4o를 사용할 경우 TravelPlanner에서 93.1%의 성공률을 달성하며, 이는 최고 기준선(CoT) 대비 61.6% 향상된 수치이고, 추론 비용은 1.4배, 소요 시간은 약 4.67배 절감된다. 코드는 https://github.com/DerrickGXD/SCOPE에서 확인할 수 있다.

arXiv:2607.05775v1cs.AI

리더보드를 넘어서: 대규모 언어 모델 에이전트의 도구 사용, 계획 및 추론 실패에 대한 종합 연구

Beyond the Leaderboard: A Synthesis of Tool-Use, Planning, and Reasoning Failures in Large Language Model Agents

대규모 언어 모델(LLM) 에이전트는 도구 사용, 다단계 작업 계획, 다른 에이전트와의 조율, 장기간 운용 능력 측면에서 점점 더 광범위하게 평가되고 있다. 보고된 벤치마크 성능 향상은 서로 관련 없어 보이는 다양한 평가 연구에서 반복적으로 문서화된 실패 양상을 종종 가린다. 본 논문은 19개의 서로 다른 벤치마크에 걸쳐 2023년부터 2026년 사이에 발표된 27편의 벤치마크·분류체계·감사 논문을 종합하여 에이전트 한계에 대한 횡단적 분류체계를 구성한다. 저자들이 파악하는 한, 이는 도구 사용, 계획, 장기 추론, 다중 에이전트 조율, 안전성, 측정 타당성에 걸친 증거를 단일하고 통합된 LLM 에이전트 한계 분류체계로 통합한 최초의 종합 연구이다. 본 연구는 여섯 가지 실패 군집을 식별한다: (1) 도구 호출 및 매개변수(parameter) 수준의 오류, (2) 계획 및 제약 충족 실패, (3) 컨텍스트 누적으로 인한 장기 성능 저하, (4) 다중 에이전트 조율 실패, (5) 적대적 또는 불충분한 명세 조건에서의 안전성·보안 실패, (6) 측정 타당성 문제. 분류체계는 독립적으로 보고된 오류 범주를 에이전트 추론-행동 파이프라인의 개별 단계에 해당하는 주제별로 그룹화하는 반복적 방식으로 도출되었다. 문헌 전반에 걸쳐, 실패가 작업 길이에 따라 비선형적으로 누적되고, 개별 하위 작업에서의 높은 성능이 종단 간(end-to-end) 성공으로 안정적으로 이어지지 않으며, 추가적인 스캐폴딩이 일관되게 신뢰성을 향상시키지 않는다는 사실이 발견되었다. 동시에, 단일 턴 도구 사용, 단기 웹 탐색, 좁은 범위의 코딩 작업에서는 상당한 진전이 입증되었다.

arXiv:2606.27757v1cs.AI

신뢰성과 견고성을 갖춘 LLM 계획을 향하여: 기호적 피드백 기반 반복적 자기 정제 프레임워크

Towards Reliable and Robust LLM Planning: Symbolic Feedback-Driven Iterative Self-Refinement Framework

대규모 언어 모델(LLM)은 학계와 산업계로부터 폭넓은 관심을 받고 있으나, 배포 과정에서 견고성과 신뢰성과 관련한 중대한 보안 우려가 제기된다. 계획(planning)은 지능적 행동의 핵심 구성 요소이지만 LLM에게는 여전히 어려운 과제이며, 고유한 복잡성으로 인해 장기(long-horizon) 의사결정 과제에서 실행 불가능하거나 잘못된 해를 종종 산출한다. 본 논문에서는 장기 계획에서 LLM의 견고성과 신뢰성을 향상시키기 위해 기호적 피드백 기반 반복적 자기 정제(self-refinement) 프레임워크를 제안한다. 구체적으로, 논리 기호를 자연어 설명으로 매핑하여 LLM이 과제 제약과 의미를 더 잘 파악할 수 있도록 하는 자연어 프롬프팅(prompting) 메커니즘을 도입한다. 또한 오류를 식별하고 이를 LLM이 해석 가능한 수정 지시로 변환하여 자기 정제를 이끄는 기호적 검증기(verifier)를 설계한다. 아울러 목표 도달 가능성(goal reachability)을 추론하는 계획 인식기(plan recognizer)를 활용하여 원하는 목표를 향한 더 효과적인 안내를 가능하게 한다. 실험 결과, 제안된 프레임워크가 장기 계획 과제에서 실행 가능성(feasibility)과 정확성(correctness) 모두를 일관되게 개선함을 보여준다. 이는 LLM 기반 계획의 신뢰성을 높이는 데 있어 그 효과를 부각하며, 더 신뢰할 수 있는 AI 시스템을 가능하게 할 잠재력을 시사한다.

arXiv:2606.24842v1cs.AI

World Models in Pieces: Structural Certification for General Agents

In the big-world regime, agents cannot be universally capable and their ability is inevitably specialized across a world model in pieces. Consequently, standard uniform guarantees fail to distinguish between the understanding of critical bottlenecks and irrelevant failures. We first formalize this limitation by proving that general agents are not universal, rendering standard worst-case analysis uninformative. To overcome this, we introduce structural certification, a transition-local framework that maps bounded goal-conditioned performance to entry-wise guarantees on the agent's internal world model. Our main contribution is constructive. We provide algorithms that filter specific transitions using deep compositional goals and prove that a general agent on these goals has a structural world model with a $\mathcal{O}(1/n) + \mathcal{O}(δ)$ error bound. Conversely, this bound is tight in the small-$δ$ regime, whose existence is explicitly guaranteed by our certification. These results enable the certifiable deployment of general agents by localizing the specific transitions where long-horizon planning is reliable.

arXiv:2606.22681v1cs.CL

모르는 것만 물어라: 효율적인 다단계 RAG를 위한 그라운딩 델타 계획

Only Ask What You Don't Know: Grounded Delta Planning for Efficient Multi-step RAG

다중 홉(multi-hop) 질의응답 RAG에서 반복 검색 오류 누적과 불필요한 추론 단계를 줄이기 위해, 예비 검색으로 계획을 그라운딩(grounding)하고 누락된 정보(정보 델타)에 대해서만 하위 질의를 생성하는 GDP-RAG를 제안한다. HotpotQA, 2WikiMultiHopQA, MuSiQue에서 비교 시스템 중 최고 정확도 60.63%와 cost-of-pass 0.51을 달성해, 더 높은 정확도와 더 낮은 비용을 동시에 만족하는 방법으로 나타났다.

arXiv:2606.18746v1cs.AI

일반화 에이전트는 무엇을 기억해야 하는가?

What Must Generalist Agents Remember?

여러 환경과 목표에서 거의 최적으로 행동하는 일반화 에이전트(generalist agent)가 메모리에 무엇을 저장해야 하는지 형식적으로 분석하며, 관찰 병목(observational bottleneck)에서 호환되지 않는 최적 행동이 필요한 도메인은 메모리가 이를 구분해야 한다는 분리 정리(separation theorem)를 보인다. 메모리가 관련 목표의 가치를 추정할 만큼 충분한 정보를 담으면 국소 전이 역학(local transition dynamics)을 대략적으로 재구성할 수 있어, 메모리는 도메인 모호성 제거, 전이 모델 재구성, 계획을 지원하는 기반으로 특성화된다.