arXiv:2609.23142v1 cs.AI

CraftBench-UE: 언리얼 엔진에서 코딩 에이전트를 위한 결정론적 평가

CraftBench-UE: Deterministic Evaluation for Coding Agents in Unreal Engine

Shutong Wu, Kevin Calderone, Andy Tsen

제출 2026-09-22

한국어 초록

게임 엔진에서 게임플레이 기능을 만드는 일은 코드만으로는 충분하지 않다. 컴파일되고 실행되는 코드가 반드시 요청된 게임플레이를 구현한다는 보장은 없기 때문이다. 우리는 CraftBench-UE를 소개한다. 이는 격리된 언리얼 엔진 환경에서 에이전트를 실행하고, 저장된 제출물을 새 프로젝트에서 재구성한 뒤 LLM 심사자 없이 결정론적인 빌드, 에셋, 런타임 검사를 적용하는 평가 하네스이다. 이 하네스를 바탕으로 C++ 소스, Blueprint 에셋, 에디터 스크립팅에 걸친 70개 과제로 구성된 벤치마크를 구축했다. 두 가지 에디터 도구 구성 하에서 일곱 개 모델을 평가하였으며, C++ 과제에는 파일-및-셸 기준선을 두었다. 또한 동일한 게임플레이를 명시하고 동일한 런타임 테스트를 사용하지만 산출물로 C++와 Blueprint를 각각 요구하는 과제들을 짝지었다. 10개의 짝지어진 과제 전체에서, 두 도구 구성에서 C++ 완료율이 Blueprint보다 각각 30.0 및 42.9퍼센트포인트 높다. 이 짝짓기 집합에서 에셋 검사를 통과한 시간 내 Blueprint 제출물 중 42.2%와 50.0%가 명시적 런타임 단언에서 실패한다. 이 제출물들은 에셋 요구사항은 만족하지만 필수 게임플레이 테스트에는 실패한다. 보고서와 함께 하네스, 과제 벤치마크, 궤적 분석 결과를 공개할 예정이다.

원문 초록

Building gameplay features in a game engine requires more than code, as code that compiles and runs does not necessarily implement the requested gameplay. We introduce CraftBenchUE, an evaluation harness that runs agents in an isolated Unreal Engine environment, reconstructs their saved submissions in fresh projects, and applies deterministic build, asset, and runtime checks without an LLM judge. Based on the harness, we built a benchmark consisting of 70 tasks spanning C++ source, Blueprint assets, and editor scripting. We evaluate seven models under two editor-tool configurations, with a file-and-shell baseline on C++ tasks. We further pair tasks that specify the same gameplay and use the same runtime tests, but require C++ and Blueprint as the deliverables. Across the 10 paired tasks, C++ completion rates exceed Blueprint by 30.0 and 42.9 percentage points in the two tool configurations. Among on-time Blueprint submissions in this paired set that pass asset checks, 42.2% and 50.0% fail explicit runtime assertions. These submissions satisfy asset requirements but fail the required gameplay tests. We will release the harness, task benchmark, and our trajectory findings with the report.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2609.23142v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2609.33678v3cs.AI공통 태그 Benchmarking, Code Generation, coding agents, game development

SWE-Game: 코딩 에이전트는 우리가 원하는 게임을 만들 수 있는가?

SWE-Game: Can Coding Agents Build the Games We Want?

본 논문에서는 2D 및 3D의 13개 게임플레이 카테고리에 걸친 41개의 실행 가능한 레퍼런스 Godot 게임을 기반으로 한 247개 태스크 벤치마크인 SWE-Game을 소개합니다. 5가지 태스크 유형은 개요(brief)로부터의 개발, 게임 디자인 문서(GDD) 기반 구현, 스켈레톤 완성, 83개의 주입된 결함 사례 복구, Godot에서 Unity로의 포팅을 다룹니다. 레퍼런스 자료는 의도된 게임플레이를 명시하며, 공유된 인스트루멘테이션 인터페이스를 통해 평가자 소유의 드라이버와 프로브가 액션을 실행하고 독립적으로 구현된 게임을 관찰할 수 있습니다. 평가는 엔진 상태 점검, 검증된 레퍼런스 입력 리플레이, 에이전트가 작성한 특징(feature) 시연을 결합하여 메커닉의 정확성, 입증된 플레이 가능성, 그리고 복구 후 행동의 복원 및 보존을 평가합니다. 게임별 비전-언어(vision-language) 루브릭은 프레젠테이션을 별도로 평가합니다. 6개 모델 전반에서 Opus5가 5가지 태스크 유형 모두에서 가장 높은 종합 점수를 기록했습니다. 3가지 제작 태스크 전반에서 최고 종합 점수는 100점 만점 중 60점 미만에 머물렀으며, Brief-to-Game은 50.38점에 도달했습니다. 검토된 제출물 분석 결과, 요구사항 누락과 게임플레이 로직 오류가 주요 구현 문제인 것으로 나타났습니다. 에이전트가 제작한 100개 게임의 인간 라벨링 행동에 대해, 실행 가능한 점검은 비디오 기반 VLM 판별기의 78.41%에 비해 92.59%의 균형 정확도(balanced accuracy)를 달성했습니다. 루브릭 기반 시각 점수는 200개 게임플레이 클립에 대한 인간 평가와 0.829의 스피어만 상관계수에 도달했습니다. 종합적으로 이러한 결과는 게임 개발 활동 전반에 걸친 현재 에이전트 능력을 규명하며, 런타임 증거와 시각적 평가의 결합을 뒷받침합니다.

arXiv:2610.13361v1cs.SE공통 태그 Benchmarking, Code Generation, coding agents

AgentSWE: 코딩 에이전트는 사용자가 실제로 원하는 에이전트를 구축할 수 있는가?

AgentSWE: Can Coding Agents Build the Agent You Actually Want?

소프트웨어 제작이 소프트웨어 자체의 손에 맡겨짐에 따라, 코딩 에이전트(coding agent)가 사용자의 자체 워크플로에 맞춤화된 에이전트를 구축하도록 위임받는 사례가 점차 늘어나고 있습니다. 이러한 위임에는 제공된 에이전트가 단지 그렇게 보이는 것에 그치지 않고, 구축 목적이었던 요구사항을 충실히 수행할 것이라는 암묵적인 가정이 깔려 있습니다. 그러나 기존의 어떤 벤치마크도 이 가정을 검증하지 않습니다. 본 논문에서는 자연어 요구사항으로부터 완전한 에이전트를 제작하는 생성(Creation), 프로덕션 에이전트 코드베이스의 수정(Editing), 측정 가능한 목표를 향한 최적화(Optimization)라는 에이전트 개발 수명 주기의 3단계를 아우르는 에이전트 소프트웨어 엔지니어링 벤치마크인 AgentSWE를 소개합니다. 25개의 각 태스크는 시험이라기보다는 의뢰의 형태로 구성됩니다. 즉, 빌더는 소수의 예시 케이스를 바탕으로 반복 개선하고, 인수 평가 단계에서는 엄격한 통과/실패 기준을 적용한 요구사항 기반 루브릭에 따라(최적화의 경우 원본 벤치마크 자체의 목표에 따라) 고정된 제출물을 전체 요구사항을 포괄하도록 설계된 홀드아웃(held-out) 케이스에서 실행하여 동작을 채점합니다. 다양한 모델과 하네스에 걸쳐 여러 코딩 에이전트를 평가한 결과, 요구사항이 요구하는 바를 제대로 제공하는 에이전트는 전무했습니다. 빌더가 시연하는 모습과 실제로 제공하는 결과물 사이의 격차는 예외적인 경우가 아니라 일반적인 현상이었습니다. 실패 궤적에 대한 실증적 분석을 통해 확인된 반복적인 실패 모드로는 가시적인 케이스에 대한 과적합, 완성된 것처럼 보이는 코드 이면의 빈껍데기 런타임, 근거 없는 완료 주장 등이 있었으며, 이는 코딩 에이전트가 요청받은 에이전트를 구축하는 방법을 학습할 수 있는 각각의 신호가 됩니다.

arXiv:2610.13395v1cs.SE공통 태그 Benchmarking, Code Generation, coding agents

ProgramGym: 장기 프로그램 재현 에이전트를 위한 학습 환경 확장

ProgramGym: Scaling Training Environments for Long-Horizon Program Reproduction Agents

코딩 에이전트(coding agent)는 저장소 내의 이슈를 해결하거나 주어진 요구사항 명세서로부터 저장소를 생성하는 것을 넘어, 소프트웨어 엔지니어처럼 처음부터(from scratch) 프로그램을 구축하는 데 점점 더 많이 활용되고 있습니다. 그러나 에이전트가 필요한 요구사항을 직접 파악하고 시스템 설계 방식을 결정하도록 강제하는, 확장 가능하고 검증 가능한 학습(training) 환경은 여전히 부족합니다. 또한 기존 에이전트 워크플로는 구현 전에 참조 프로그램을 탐색하는 장기(long-horizon) 개발 과정을 지속하기 어렵습니다. 이러한 문제를 해결하기 위해, 본 논문에서는 장기 프로그램 재현 에이전트를 위한 확장 가능한 학습 환경 프레임워크이자 Program-Env 및 Program-Agent로 구성된 ProgramGym을 소개합니다. 구체적으로 Program-Env는 런타임 샌드박스 빌드와 블랙박스 테스트 품질을 복구하는 피드백 기반 루프를 통해 저장소로부터 검증 가능한 학습 환경을 구축합니다. 이 새로운 파이프라인을 활용하여 C, C++, Go, Rust에 걸친 1,648개의 학습 환경을 확보했습니다. Program-Agent는 컴파일 검사 및 실패 복구를 위한 리비전 관리와 함께 분석, 구현, 검토의 역할 분리 워크플로를 결합합니다. ProgramBench 실험 결과는 Program-Env와 Program-Agent 모두 프로그램 재현 성능을 향상시킴을 보여줍니다. 이렇게 구축된 환경에서 얻은 궤적으로 미세조정(fine-tuning)을 수행하면 Qwen3.8-27B의 성능이 34.87%에서 42.84%로 향상됩니다. Program-Agent는 베이스 및 SFT 모델의 성능을 각각 55.71%와 56.25%까지 추가로 향상시키며, 두 모델 모두 일부 플래그십 모델을 능가합니다. 처음부터 프로그램을 구축하는 코딩 에이전트에 대한 후속 연구를 지원하기 위해 ProgramGym을 공개할 예정입니다.

arXiv:2610.10610v1cs.SE공통 태그 Benchmarking, Code Generation, coding agents

코드 이해는 코딩 에이전트의 병목 현상이다

Code Understanding is a Bottleneck for Coding Agents

코딩 에이전트(coding agent)를 위한 저장소 벤치마크(예: SWE-bench)는 편집된 코드 라인 수가 작업 난이도를 예측할 수 있다고 가정하는 경우가 많지만, 이러한 데이터셋은 코드와 작업 유형에 대한 통제가 미흡하여 어떤 능력이 실제로 에이전트 오류를 유발하는지 파악하기 어렵게 만듭니다. 우리는 엄격한 에이전트 평가를 위한 코딩 능력 청사진인 CABRA(Coding Ability Blueprint for Rigorous Agent evaluation)를 제시합니다. CABRA는 작업을 호출 그래프(call graph) 변환 형태로 처음부터 구축하며, 함수 순회, 검색, 런타임 해석, 인스트럭션 추종의 네 가지 축에서 작업 크기 매개변수를 통해 난이도를 조절합니다. 우리는 6,840개의 CABRA 작업에서 8개의 대규모 언어 모델(LLM)과 6개의 코딩 에이전트를 실행하여 다음을 입증합니다. 1) 작업 크기가 커질수록 LLM의 정확도는 떨어지지만, 에이전트는 도구(예: grep)로 작업을 오프로딩하여 거의 완벽한 상태를 유지합니다. 2) 더 큰 CABRA 작업은 읽기 및 분석을 위한 도구 호출을 더 많이 유발하는 한편, SWE-bench Verified에 대한 별도 연구에서는 이러한 도구 호출 수가 편집된 코드 라인 수보다 에이전트의 정확도를 더 잘 예측함을 보여주며, 이는 에이전트의 작업 난이도가 단순히 편집을 수행하는 것만이 아니라 편집할 코드를 이해하는 데 있을 수 있음을 시사합니다. 3) 두 클래스에 걸쳐 분기되는 로직을 분석하는 심층적인 이해 작업으로 CABRA를 확장했을 때 에이전트 정확도가 마침내 떨어지면서 이러한 발견을 뒷받침합니다. 더 나아가, 우리는 도구에 의해 사소해진 LLM의 약점(예: needle-in-a-haystack)과 코딩 에이전트가 여전히 어려워하는 단순 편집 이상의 능력(예: 이해)을 드러내기 위해, SWE-bench 스타일의 작업과 통제된 진단을 결합하는 CABRA와 같은 합성 평가가 필요하다고 주장합니다.

arXiv:2610.10619v1cs.SE공통 태그 Benchmarking, Code Generation, coding agents

TestJack: 코딩 벤치마크 결과를 신뢰할 수 있는가? 평가자 진화를 통한 에이전트 기반 코딩 벤치마크 감사

TestJack: Should you trust the results in coding benchmarks? Agentic Coding Benchmarks Auditing via Evaluator Evolution

대규모 언어 모델(LLM) 에이전트(agent)는 새로운 코드 벤치마크의 폭발적인 증가와 함께 소프트웨어 엔지니어링 환경을 빠르게 재편하고 있습니다. 그러나 거의 모든 기존 벤치마크는 여전히 수십 년 된 동일한 기준에 의존하고 있습니다. 즉, 고정된 단위 테스트 세트를 통과하면 해당 솔루션이 올바르다고 판단하는 것입니다. 이러한 테스트는 불충분한 경우가 많습니다. 작업에 필요한 요구사항 중 일부만 검사하므로, 에이전트가 모든 테스트를 통과하면서도 보상 해킹(reward hacking)을 하거나 필수 동작을 은밀히 누락할 수 있습니다. 결과적으로 더 높은 벤치마크 점수는 더 뛰어난 문제 해결 능력보다는 평가자에 더 잘 적응했음을 부분적으로 반영할 수 있습니다. 기존 연구들은 정적 테스트 증강에 초점을 맞추고 있습니다. 즉, 어떠한 시도도 관찰하기 전에 각 작업의 테스트를 사전에 한 번 강화하므로, 실제 시도가 실제로 어떻게 실패하는지를 간과합니다. 본 논문에서는 고정된 테스트를 넘어 패치를 평가하기 위한 확장 가능한 프레임워크인 TestJack을 소개합니다. TestJack은 각 시도마다 패치가 위반할 수 있는 프롬프트 요구사항을 겨냥한 테스트를 생성하고, 정답 패치가 통과한 테스트만 유지하며, 모든 시도 실패를 재검토합니다. 따라서 확인된 각 실패는 재생 가능한 테스트를 통해 뒷받침됩니다. 또한 평가 비용을 줄이기 위해 무작위로 추출된 시도 샘플을 심층 감사하고, 그 결과로 얻은 테스트를 동일한 작업의 모든 시도에 재사용하는 경량 변형 모델도 소개합니다. 6개의 프론티어 모델 백엔드와 DeepSWE 및 SWE Marathon을 포함한 5개 벤치마크에 걸쳐 평가한 결과, 현재 올바른 것으로 판정된 모델 시도의 약 34.4%가 작업 요구사항을 위반하여 전체 해결률(resolution rate)이 50.6%에서 33.2%로 낮아지는 것을 발견했습니다. 본 연구 결과는 현재 코딩 에이전트 평가의 근본적인 한계를 드러냅니다. LLM이 고정된 평가자에 맞추어 최적화하는 능력이 향상됨에 따라, 평가자 자체도 더욱 적응적으로 진화해야 합니다.

arXiv:2610.02563v1cs.LG공통 태그 Benchmarking, Code Generation, game development

OpenGameEval: 상태 유지형 게임 엔진에서의 에이전틱 프로그래밍 및 탐험 벤치마킹

OpenGameEval: Benchmarking Agentic Programming and Exploration in a Stateful Game Engine

우리는 Roblox Studio 내에서 에이전틱(agentic) 게임 개발을 위한 벤치마크 및 평가 프레임워크인 OpenGameEval을 제시한다. 이 프레임워크는 언어 모델을 재현 가능하고 상태를 유지하는 게임 엔진 세션 내에서 에이전트로 실행하며, 편집된 장면(scene)과 시뮬레이션된 플레이 세션 양쪽에 대해 실행 가능한 검사(executable checks)를 통해 각 실행을 평가한다. 대부분의 에이전틱 코딩 벤치마크는 탐험을 요구하지만 최종 과제 성공 여부만을 평가한다. OpenGameEval은 8개의 도구로 구성된 행동 공간(action space)에서 관찰 도구와 편집 도구를 분리하여, 탐험을 직접 측정할 수 있도록 한다. 우리는 16회의 시도로 구성된, 사람이 직접 선별한 84개의 핵심 과제에 대해 13개의 최신(frontier) 모델의 통과율과 탐험 행동을 측정한다. 이 과제들은 현재 모델들에게 어려운 것으로 나타난다. 최고 성능 모델은 한 번의 시도로 과제의 51.7%를 해결하고, 다섯 번 모두 성공하는 비율은 39.4%이며, 테스트된 모델 중 6개 과제를 해결한 모델은 없었다. 최신 모델들은 서로 다른 과제를 해결함으로써 비슷한 통과율에 도달한다. 과제를 요구되는 작업 종류별로 나누어 보면, 스크립트 작성(script-authoring) 과제에서는 상위 5개 모델 간 격차가 5.0퍼센트포인트(pp)로 벌어지고, 장면 변경(scene-change) 과제에서는 12.5퍼센트포인트로 벌어진다. 탐험 행동은 실행의 성공 여부를 예측한다. 과제와 모델을 고정했을 때, 참조 솔루션이 다루는 모든 객체를 행동에 앞서 검사하는 실행은, 장면 전용(scene-only) 과제에서는 그중 아무것도 검사하지 않은 실행보다 13.4퍼센트포인트 더 높은 비율로 성공하며, 스크립트 전용(script-only) 과제에서는 9.8퍼센트포인트 더 높은 비율로 성공한다. 우리는 과제 모음(task suite)과 해당 place 파일, 과제별 주석(annotation), Roblox Studio 내에서 과제를 실행하는 플러그인, 그리고 업데이트된 리더보드를 MIT 라이선스로 https://github.com/Roblox/open-game-eval 에 공개한다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.