CLI-Universe: 터미널 에이전트를 위한 검증 가능한 태스크 합성 엔진을 향하여
CLI-Universe: Towards Verifiable Task Synthesis Engine for Terminal Agents
한국어 초록
최근 LLM 기반 터미널 에이전트가 유망한 성능을 보여주고 있지만, 고품질의 실행 가능한 학습 데이터 부족은 여전히 핵심적인 병목으로 남아 있다. 기존 합성 파이프라인은 일반적으로 표면적 아티팩트를 태스크로 변환하는 방식으로 규모를 확장하며, 이로 인해 모호한 지시문, 얕은 실행 경로, 그리고 학습 신호가 약한 불안정한 테스트가 빈번히 생성된다. 이를 극복하기 위해 우리는 터미널 에이전트 태스크를 구성하는 원칙적 합성 엔진인 CLI-Universe를 소개한다. CLI-Universe는 다차원 역량 분류 체계(도메인, 스킬 유형, 역량, 엔지니어링 기반)에 걸친 조합을 샘플링하여 후보 태스크를 생성하고, 실제 기술 자료에 대한 증거 기반 심층 리서치를 통해 각 후보를 구체화한다. 엄격한 감독 신호를 보장하기 위해, 검증된 블루프린트는 Dockerized 환경에서 인스턴스화되고, 루브릭 기반 테스트 구성, 힌트 조건부 필터링, 엄격한 실패-통과 검사를 포함하는 다단계 실행 검증 파이프라인을 거친다. 후보 생성부터 검증에 이르는 전체 파이프라인에서 후보의 약 3분의 2가 제거되며, 진정성 있고 검증 가능하며 비자명하게 도전적인 태스크만이 보존된다. 프레임워크 검증을 위해 CLI-Universe-6K라고 불리는 6,000개의 경로로 구성된 고도로 정제된 데이터셋을 구축하였다. 주목할 만하게도, CLI-Universe-6K로 Qwen3-32B를 미세조정한 결과 Terminal-Bench 2.0에서 33.4%를 달성하였다. 이는 오픈소스 데이터로 학습된 32B 이하 파라미터 모델에서 새로운 최고 성능을 기록하며, 규모가 한 자릿수 더 큰 여러 모델을 능가함으로써 구조화된 고품질 합성의 탁월한 데이터 효율성을 입증한다.
원문 초록
While recent LLM-based terminal agents have demonstrated promising capabilities, the scarcity of high-quality, executable training data remains a critical bottleneck. Existing synthesis pipelines typically scale by retrofitting surface-level artifacts into tasks, frequently yielding ambiguous instructions, shallow execution paths, and brittle tests that provide weak learning signals. To overcome this, we introduce CLI-Universe, a principled synthesis engine that constructs terminal-agent tasks. CLI-Universe generates candidate tasks by sampling combinations across a multi-dimensional capability taxonomy (domain, skill type, capability, and engineering pillar), then grounds each candidate through evidence-guided deep research over real-world technical materials. To ensure rigorous supervision, validated blueprints are instantiated into Dockerized environments and subjected to a multi-stage executable verification pipeline featuring rubric-gated test construction, hint-conditional filtering, and strict fail-to-pass checking. Across the full pipeline, from candidate generation to verification, approximately two-thirds of candidates are discarded, retaining only those that are genuine, verifiable, and non-trivially challenging. To validate our framework, we instantiate a highly distilled dataset of 6,000 trajectories called CLI-Universe-6K. Remarkably, fine-tuning Qwen3-32B on CLI-Universe-6K achieves 33.4% on Terminal-Bench 2.0. This sets a new state-of-the-art for models trained on open-source data at or below 32B parameters, and outperforms several models an order of magnitude larger, demonstrating the profound data efficiency of structured, high-fidelity synthesis.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2606.22883v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
코드 이해는 코딩 에이전트의 병목 현상이다
Code Understanding is a Bottleneck for Coding Agents
코딩 에이전트(coding agent)를 위한 저장소 벤치마크(예: SWE-bench)는 편집된 코드 라인 수가 작업 난이도를 예측할 수 있다고 가정하는 경우가 많지만, 이러한 데이터셋은 코드와 작업 유형에 대한 통제가 미흡하여 어떤 능력이 실제로 에이전트 오류를 유발하는지 파악하기 어렵게 만듭니다. 우리는 엄격한 에이전트 평가를 위한 코딩 능력 청사진인 CABRA(Coding Ability Blueprint for Rigorous Agent evaluation)를 제시합니다. CABRA는 작업을 호출 그래프(call graph) 변환 형태로 처음부터 구축하며, 함수 순회, 검색, 런타임 해석, 인스트럭션 추종의 네 가지 축에서 작업 크기 매개변수를 통해 난이도를 조절합니다. 우리는 6,840개의 CABRA 작업에서 8개의 대규모 언어 모델(LLM)과 6개의 코딩 에이전트를 실행하여 다음을 입증합니다. 1) 작업 크기가 커질수록 LLM의 정확도는 떨어지지만, 에이전트는 도구(예: grep)로 작업을 오프로딩하여 거의 완벽한 상태를 유지합니다. 2) 더 큰 CABRA 작업은 읽기 및 분석을 위한 도구 호출을 더 많이 유발하는 한편, SWE-bench Verified에 대한 별도 연구에서는 이러한 도구 호출 수가 편집된 코드 라인 수보다 에이전트의 정확도를 더 잘 예측함을 보여주며, 이는 에이전트의 작업 난이도가 단순히 편집을 수행하는 것만이 아니라 편집할 코드를 이해하는 데 있을 수 있음을 시사합니다. 3) 두 클래스에 걸쳐 분기되는 로직을 분석하는 심층적인 이해 작업으로 CABRA를 확장했을 때 에이전트 정확도가 마침내 떨어지면서 이러한 발견을 뒷받침합니다. 더 나아가, 우리는 도구에 의해 사소해진 LLM의 약점(예: needle-in-a-haystack)과 코딩 에이전트가 여전히 어려워하는 단순 편집 이상의 능력(예: 이해)을 드러내기 위해, SWE-bench 스타일의 작업과 통제된 진단을 결합하는 CABRA와 같은 합성 평가가 필요하다고 주장합니다.
터미널 에이전트 학습이 정체될 때: 데이터 생성 및 검증의 과제 규명
When Terminal-Agent Training Stalls: Demystifying Data Generation and Verification Challenge
강화학습(RL) 학습을 위한 터미널 작업과 검증기(verifier)를 생성하기 위해 Claude Opus와 같은 프론티어 모델을 메타 에이전트로 사용하는 방식이 점차 보편화되고 있습니다. 그러나 실행 가능한 Docker 이미지와 실행 테스트 스위트가 존재하더라도 터미널 에이전트 학습을 위한 신뢰할 수 있는 엔드투엔드 파이프라인이 보장되지는 않습니다. 본 연구에서는 이러한 간극에서 착안하여 벤치마크 무효성, 하네스 취약성, 보상 정렬 불일치라는 세 가지 유형의 실패를 진단하는 메타 에이전트 파이프라인을 제시합니다. 프롬프트 재설계와 컨텍스트 확장을 통해 기준선(baseline) 해결 가능성을 5.6배 높였으나, Claude Opus가 생성한 작업에서 9B 모델은 20스텝 이내에 평균 pass@2 81.3%로 포화 상태에 도달합니다. 학습 설정을 변경하지 않고 고난도 작업을 추가하면 평균 pass@2가 20.6%로 감소하며, 이는 해결 가능성 대역(solvability band)이 모델에 따라 고유함을 보여주는 강력한 증거입니다. 이러한 결과는 메타 에이전트의 신뢰성을 확보하기 위해 해결 가능성 대역 보정, 검증기 감사, 인프라 오류 계산이 사후 진단이 아닌 일급(first-class) 평가 기준으로 요구됨을 보여줍니다.
과학 분야를 위한 터미널 환경의 자기지도 스케일링
Self-Supervised Scaling of Terminal Environments for Scientific Domains
터미널 에이전트(agent)는 소프트웨어 공학을 넘어 과학 및 기타 전문 분야에 점점 더 많이 배포되고 있습니다. 학습(training) 환경을 구축하려면 실행 가능한 기준 동작과 겉으로만 그럴듯한 결과물과 의미론적 정확성을 구분하는 도메인 특화 검증기(verifier)가 필요합니다. 각 작업마다 이러한 구성 요소를 직접 작성하는 것은 반복적인 엔지니어링을 요구하며 재사용성을 제한합니다. 본 연구에서는 구조화된 입력을 출력으로 매핑하는 실행 가능한 프로그램인 기존 소프트웨어 워크플로로부터 기준 출력과 검증 대상을 얻는 자기지도(self-supervised) 프레임워크인 소프트웨어 인 더 루프 재구성(software-in-the-loop reconstruction, SWR)을 소개합니다. 각 워크플로에 대해 여러 입력 구성을 실행하고 사례를 공개 관측치와 비공개 평가로 분할합니다. 지시문, 입력 스키마, 공개된 입출력 관측치가 주어지면 에이전트는 소스 워크플로에 직접 접근하지 않고도 편집 가능한 프로그램을 구성합니다. 후보 프로그램은 비공개 구성에서 워크플로 출력을 기준으로 평가됩니다. 계층적 검증기는 도메인 특화 의미 비교, 구조적 유효성, 지름길 방지(anti-shortcut) 검사를 결합하며, 공개 피드백은 반복적인 수정을 지원합니다. 이러한 구축 방식은 각 작업마다 기준 솔루션을 직접 작성하지 않고도 추가적인 워크플로와 구성을 수용할 수 있습니다. 6개 도메인에 걸쳐 500개의 워크플로와 46개의 소프트웨어 패밀리로 SWR을 구현했습니다. 작업당 3회의 시도에 걸쳐 Qwen3.8-Max는 838개의 작업을 해결하고 1,422개의 검증된 궤적을 생성했으며, 이를 오버샘플링하여 3,000개의 재구성 전용 학습 예제를 구축했습니다. Qwen3.8-27B의 지도 미세조정(supervised fine-tuning)은 3개 시드에 걸쳐 평균 Terminal-Bench 2 성능을 47.94%에서 53.56%로 향상시켰으며, 보고된 4개의 평가 모두에서 토큰(token) 수가 일치하는 4개의 말뭉치 대조군 중 가장 높은 평균을 달성했습니다. 이러한 결과는 기존의 과학 소프트웨어가 터미널 에이전트를 위한 확장 가능하고 동작 검증된 지도 신호를 제공할 수 있음을 보여줍니다.
A2Z GameSpec-Bench: 코딩 에이전트는 게임 설계 명세로부터 얼마나 충실하게 게임을 생성할 수 있는가?
A2Z GameSpec-Bench: How Faithfully Can Coding Agents Generate Games from Game Design Specifications?
완전한 애플리케이션 개발을 코딩 에이전트(agent)에 위임하려면 단순한 프롬프팅을 통해 그럴듯한 결과물을 만들어내는 것이 아니라 의도된 설계를 보존해야 한다. 게임 개발은 까다로운 테스트베드를 제공하는데, 장문의 게임 설계 문서(Game Design Document, GDD)는 게임 로직, 시각적 렌더링, 플레이어 상호작용 전반에 걸쳐 함께 작동해야 하는 요구사항을 기술하기 때문이다. 그러나 기존의 게임 개발 벤치마크는 일반적으로 간결한 명세를 사용하며, 장문 GDD에서 이러한 측면들 간의 상호 의존적인 요구사항을 평가하는 데 제한적인 지원만을 제공한다. 우리는 에이전트의 엔드투엔드 게임 개발을 평가하기 위한 100개의 장문 GDD로 구성된 벤치마크인 A2Z GameSpec-Bench를 소개한다. 우리는 게임이 GDD 요구사항을 충족하고 그 요구사항들 간의 관계를 보존하는지를 확인하여 충실도(faithfulness)를 측정한다. 각 GDD는 규칙, 제약 조건, 선행 관계(prerequisite relation)를 포함하는 의존성 인식 계약(dependency-aware contract)으로 변환된다. 게임 개발 관행을 따라, 우리는 소스 코드 검사와 에이전트가 생성한 테스트 정책을 결합하여 시나리오 기반 리플레이와 적응형 플레이테스팅을 수행한다. 계약은 에이전트와 수정 라운드 전반에 걸쳐 고정된 상태로 유지되며, 동일한 요구사항과 연결된 판정과 근거는 일관된 비교와 실패 탐지를 지원한다. 우리의 평가 결과, 현재 에이전트는 코드 구현과 실제 플레이 전반에 걸쳐 상호 의존적인 요구사항을 동시에 충족하는 데 어려움을 겪는 것으로 나타났다. 요구사항별 피드백은 두 라운드 이후 자기 수정(self-revision) 대비 GDD 충실도를 10.9% 상대적으로 향상시킨다. A2Z GameSpec-Bench는 구현 판정을 넘어선 엔드투엔드 명세 준수 능력을 평가하며, 더 충실한 게임 개발을 지원하기 위한 맞춤형 피드백을 제공한다. 코드와 데이터셋은 https://a2z-gamespec-bench.github.io 에서 확인할 수 있다.
PhySimCode: 물리 비디오-코드 생성을 위한 벤치마크 및 평가 방법
PhySimCode: A Benchmark and Evaluation Method for Physics Video to Code Generation
멀티모달 대규모 언어 모델(MLLM)은 비디오 이해와 코드 생성에 뛰어나지만, 비디오에 내재된 물리 법칙을 복원할 수 있는지는 명확하지 않다. 이는 비디오를 실행 가능한 시뮬레이션으로 변환하고 로보틱스에서 구조화된 물리적 감독(supervision)을 제공하는 데 필수적인 능력이다. 모션 비디오에 대한 캡션 생성이 모델이 그 지배 역학(governing dynamics)을 추론했거나, 정량적 매개변수를 추정했거나, 코드로부터 관찰된 장면을 재생성할 수 있음을 의미하지는 않는다. 기존 비디오-물리 벤치마크는 타당성(plausibility), 속성 추정, 미래 상태 예측을 평가하지만, 모델이 시각적 역학을 실행 가능한 시뮬레이션 코드로 변환할 수 있는지에 대해서는 제한적인 통찰만 제공한다. 우리는 물리 비디오-코드 생성을 위한 벤치마크인 PhySimCode를 소개한다: 원본 비디오만 주어졌을 때, 모델은 관련 물리를 추론하고, 매개변수 값을 복원하며, 입력 비디오를 재현하는 실행 가능한 Python 코드를 생성해야 한다. 이 데이터셋은 해석적(analytic) SciPy 시뮬레이션과 PyBullet으로 렌더링된 강체(rigid-body), 관절체(articulated), 유체(fluid), 접촉이 많은(contact-rich) 장면에 걸친 162개의 물리 현상을 다루는 160.6K개의 절차적으로 생성된 샘플을 포함한다. 각 샘플은 시뮬레이션 코드, 물리적 매개변수, 렌더링된 비디오, 그리고 관찰(observations), 법칙(laws), 상미분방정식(ODE), 수치 방법(numerical methods), 검증(validation) 검사를 다루는 구조화된 사고의 연쇄(chain-of-thought)를 함께 제공한다. 우리는 물리 법칙의 정확성, 시뮬레이션 동등성, 코드 실행 가능성, 매개변수 복원 측면에서 10개의 최신 비공개 및 공개 소스 MLLM을 평가한다. 모델들은 물리 법칙을 안정적으로 서술하지만(5점 만점에 4.27-4.93점), 비디오로부터 이를 추론하는 데에는 5점 만점에 1.51-2.47점만을 기록했으며, 최고 성능 시스템(Claude Sonnet 4.6)도 실제값(ground-truth) 매개변수의 ±20% 이내로 복원한 비율은 7.7%에 불과해, 비디오-시뮬레이션 간의 상당한 격차를 드러냈다. 2,430개 비디오로 구성된 평가 세트는 https://huggingface.co/datasets/SourajaKundu123/PhySimCode 에서, 평가 코드는 https://github.com/SourajaKundu/PhySimCode 에서 확인할 수 있다.
테스트는 통과하지만 의미는 놓치다: 계획 기반 데이터프레임 코드 생성에서 나타나는 해석적 고착(Interpretive Lock-In)의 증거
Passing Tests, Missing Semantics: Evidence of Interpretive Lock-In in Plan-Based DataFrame Code Generation
계획(planning)과 수정(revision)은 생성된 코드를 과제 명세에 더 가깝게 만들기 위한 것이다. 그러나 잘못된 해석이 계획, 구현, 테스트 전반에 걸쳐 지속될 수 있는데, 우리는 이러한 패턴을 해석적 고착(interpretive lock-in)이라 부른다. 우리는 TPC Benchmark DS에서 파생된 30개의 데이터프레임(DataFrame) 과제에서 이 위험을 조사하며, Frozen One-Pass, Test-Guided Revision, PlanAudit-Guided Revision 세 가지 파이프라인을 비교한다. 테스트 통과 수는 22/30에서 29/30, 그리고 30/30으로 증가했지만, 생성된 솔루션 중 저장된 참조 출력과 일치하는 것은 하나도 없었다. 평가자 대조군(evaluator control)은 57/57건에서 예상된 결과를 반환했다. 동일 엔진 SQL 재실행은 28/30건의 참조 결과를 재현했으나, 이들 과제에서 테스트를 통과한 77개의 실행 전부가 여전히 참조 결과와 일치하지 않았다. PlanAudit-Guided Revision은 3/30개 과제에서 코드 점수를, 11/30개 과제에서 테스트 커버리지를 개선했지만, 두 지표 모두 쌍대 비교(paired) 중앙값 변화는 0이었다. 실패 분석 결과, 요구사항을 누락한 테스트, 후보 코드가 정의한 스키마를 그대로 채택한 테스트, 판별력이 없는 픽스처(fixture)를 사용한 테스트, 혹은 구현의 잘못된 로직을 그대로 반복한 테스트가 드러났다. 열 개의 표적 과제에 대한 새로운 생성(fresh generation)에서는 참조 일치가 0/30건이었고, 테스트를 통과한 실행 중 25/25건이 거짓 통과(false pass)였다. 이러한 결과는 인과적이라기보다는 진단적인 성격을 가진다. 각 파이프라인은 피드백, 그라운딩(grounding), 호출 예산, 편집 권한 면에서 차이가 있으며, 본 연구는 하나의 모델과 적격 과제당 하나의 주요 생성만을 사용한다. 판정 이전의 인간 라벨이 보존되지 않았기 때문에 평가자 간 일치도(inter-rater agreement)는 재구성할 수 없으며, 메커니즘 분석은 여전히 탐색적 수준에 머문다. 전반적으로, 자체 생성 테스트의 성공률이 점점 높아졌음에도, 재현되지 않은 참조 결과를 제외한 이후에도 의미적 정확성(semantic correctness)은 확립되지 않았다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.