PyTorchKR Papers

“Code Generation”

총 300편
태그·기간 등 상세 필터

카테고리 탐색

arXiv:2510.00294v4cs.LG

무료 초안 작성 및 검증: 확산 대규모 언어 모델을 위한 무손실 병렬 디코딩을 향하여

Free Draft-and-Verification: Toward Lossless Parallel Decoding for Diffusion Large Language Models

확산 대규모 언어 모델(dLLM)은 다중 토큰 병렬 디코딩을 통해 매우 효율적인 추론이 가능하다는 독보적인 잠재력을 지닌, 언어 모델링의 유력한 패러다임으로 부상했다. 그러나 이 잠재력을 실현하는 일은 여전히 어렵다. 고품질 생성은 보통 단계당 한 토큰을 생성하는 정적 디코딩에 머무르며, 기존 병렬 알고리즘은 휴리스틱한 신뢰도 임계값에 의존하여 디코딩 효율과 생성 품질 사이에 취약한 절충을 초래한다. 이를 극복하기 위해 우리는 학습이 필요 없고 모델에 독립적인 새로운 고속 디코딩 알고리즘인 Free Draft-and-Verification(FreeDave)을 소개한다. FreeDave는 미래 토큰 예측을 ``무료 초안''으로 간주하고 이후 순전파에서 엄밀하게 자체 검증함으로써 dLLM의 고유한 특성을 활용한다. 이론적으로 FreeDave는 정적 디코딩이 생성한 정확한 시퀀스를 재현함이 보장되는 더 짧은 디코딩 경로를 탐색하며, 알고리즘적으로 무손실인 가속을 달성한다. 충분히 큰 초안 예산과 후퇴하지 않는 검증 프런티어가 있으면, 실현 가능한 경로 중 가장 적은 모델 순전파 횟수를 사용할 수 있다. 수학 추론과 코드 생성 벤치마크에 대한 폭넓은 평가에서 FreeDave는 모델 순전파당 생성 토큰 수(TPF)를 최대 5.48$\times$, 초당 토큰 수(TPS)를 최대 3.94$\times$ 높이면서도 생성 품질을 견고하게 유지하고, 휴리스틱 방법이 겪는 과제별 성능 저하를 피할 수 있음을 보여 준다. 코드는 https://github.com/cychomatica/FreeDave 에서 확인할 수 있다.

arXiv:2606.28593v2cs.CV

Animation2Code: 비디오-코드 생성에서의 시간적 시각 추론 평가

Animation2Code: Evaluating Temporal Visual Reasoning in Video-to-Code Generation

최근 비전-언어 모델(VLM)이 웹페이지, 차트, SVG 등 정적 시각-코드 변환 태스크에서 상당한 성능 향상을 보였으나, 모션이 존재할 때 시간적 동태를 복원할 수 있는지는 여전히 불분명하다. 이를 위해 우리는 Animation2Code를 소개한다. 이는 비디오로부터 실행 가능한 웹 애니메이션 코드를 재구성하는 방식으로 시간적 시각 추론을 평가하는 벤치마크이다. Animation2Code는 다양한 시각적 외관과 모션 패턴을 가진 1,069개의 웹 애니메이션 비디오와 이에 대응하는 HTML/CSS/JavaScript 구현 코드로 구성된다. 우리는 인간 평가와 정렬된 두 가지 지표인 외관 유사도(appearance similarity)와 시간적 유사도(temporal similarity)를 제안하며, 이를 통해 렌더링된 애니메이션과 정답 샘플을 비교할 때 시각적 충실도와 시간적 정렬을 분리하여 측정할 수 있다. 이 데이터셋으로 최신 VLM을 벤치마킹한 결과, 현재 VLM은 파인튜닝 및 반복적 정제(iterative refinement) 설정에서도 높은 외관 유사도를 달성하면서도 재구성 시 시간적 일관성을 유지하는 데 어려움을 겪는 것으로 나타났다. 코드와 데이터는 https://anya-ji.github.io/animation2code-website 에서 이용 가능하다.

arXiv:2605.23772v2cs.AI

동형성만으로는 충분하지 않다: Lean에서의 검증된 코드 생성에 대한 에이전트 감사

Isomorphism Is Not Enough: An Agentic Audit of Verified Code Generation in Lean

에이전트 시스템은 최근 형식 수학의 자동 정리 증명에서 최첨단 접근법으로 부상하였다. 이러한 역량이 프로그램 검증으로 어디까지 확장되는지, 그리고 기존 벤치마크가 이를 얼마나 신뢰성 있게 측정할 수 있는지를 평가하기 위해, Claude Opus 4.6, GPT-5.4, Kimi K2.5에 기반한 세 개의 독립적인 에이전트 스택을 사용하여 검증 가능한 코드 생성을 위한 Lean 4 벤치마크인 CLEVER를 감사한다. 감사 결과 벤치마크 저자들이 모두 승인한 161개 항목 중 80개에서 오류가 있다고 볼 만한 참조 명세를 발견하였고, 벤치마크 오류의 분류 체계를 도출하였으며, 생성된 명세와 참조 명세가 서로 다르지만 정당화될 수 있는 해석을 형식화할 때 신호가 무너지는 동형성 기반 채점의 구조적 한계를 드러낸다. 그 과정에서 이 스택들은 최대 98.8%의 항목에 대해 타당하다고 볼 만한 명세를 생성하고, 최대 92.3%에 대해 건전한 참조 명세에 대한 구현을 인증하며, 건전한 전제를 가진 항목에서 최대 96.2%의 종단 간 성공률에 도달한다. 이는 CLEVER가 설계 의도만큼 현대의 에이전트 증명기를 더 이상 압박하지 못함을 시사한다. 앞으로를 위해 본 연구의 발견을 향후 연구를 위한 권고 사항으로 정리하며, 오류 분석은 CLEVER의 수정 목록이자 차세대 벤치마크를 위한 휴리스틱 체크리스트의 역할을 겸한다.

arXiv:2504.15564v4cs.SE

OpenClassGen: LLM 연구를 위한 실제 Python 클래스의 대규모 코퍼스

OpenClassGen: A Large-Scale Corpus of Real-World Python Classes for LLM Research

기존의 클래스 수준 코드 생성 데이터셋은 합성 데이터(ClassEval: 100개 클래스)이거나 현대의 훈련 요구에 비해 규모가 부족하여(RealClassEval: 400개 클래스), 견고한 평가와 실증 분석을 저해한다. 본 논문은 공학적으로 개발된 2,970개 오픈소스 프로젝트에서 추출한 324,843개 Python 클래스로 이루어진 대규모 코퍼스인 OpenClassGen을 제시한다. 각 항목은 사람이 작성한 클래스와 그에 대응하는 스켈레톤을 짝지으며, 스켈레톤은 클래스 및 메서드 시그니처와 관련 docstring으로 구성된다. 또한 복잡도, 결합도, 응집도, 상속 특성을 포괄하는 27개의 정적 코드 메트릭으로 보강되어 있다. 저장소 수준의 문맥 해석을 요구하는 기존 벤치마크와 달리, OpenClassGen은 완전한 생성 명세로 기능하는 자기 완결적 클래스 스켈레톤을 제공한다. 분기 커버리지 58%를 달성하는 테스트 스위트로 보강된, 선별된 실행 가능 300개 클래스 부분집합에서 세 가지 LLM(GPT-o4-mini, Claude-4-Sonnet, Qwen-3-Coder)을 평가하여 이 코퍼스의 유용성을 보인다. 결과는 강한 의미적 유사도(CodeBERTScore-F3: 0.89)와 중간 수준의 기능적 정확도(통과율: 0.33)를 보이며, 모델 간 편차가 상당하다. 이러한 편차와 다양한 클래스 특성은 OpenClassGen이 LLM 능력의 의미 있는 구분을 가능하게 함을 확인해 준다. 이 데이터셋은 미세 조정, 검색 증강 생성, 난이도 모델링, 실패 모드 분석을 포함한 다양한 용도를 지원한다. 전체 데이터셋과 정제 스크립트는 https://zenodo.org/records/18409150 에 공개되어 있다.

arXiv:2606.10543v2cs.LG

생물학적 서열 설계를 위한 유연한 플로우

Flexible Flows for Biological Sequence Design

기능적인 생물학적 서열을 설계하려면 엄격한 진화적·생물물리학적 제약 아래에서 방대한 이산 공간을 탐색해야 한다. 이산 플로우 매칭(Discrete Flow Matching, DFM)은 이러한 공간에 대한 생성 프레임워크를 제공하지만, 기존 접근법은 생물학적으로 정보가 없는 커플링에 의존하며 가변 길이 서열 생성과 세밀한 제어에 대한 유연성이 제한적이다. 본 논문은 서열 요소 간의 도메인 특화 선호를 인코딩하는 구조화된 커플링을 제안하며, 이는 플로우 목적 함수나 학습 절차를 수정하지 않고도 소스 분포를 그럴듯한 영역으로 편향시킨다. 이를 바탕으로, 공유된 전역 잠재 변수에 조건화된 편집 연산을 통해 가변 길이 생성을 모델링하는 잠재 편집 기반 레이트 파라미터화를 도입한다. 이 방식은 잠재 변수 모델과 유사하면서도 계산 가능성(tractability)을 유지한다. 또한 연속 잠재 공간에서 생성을 일관되게 유도하는 잠재 classifier-free guidance 메커니즘과, 편집 연산에 대한 테스트 시점 제어를 위한 Dirichlet 사전분포 온도 스케일링을 추가로 도입한다. 제안한 방법은 밀도 추정, 비조건부 및 조건부 DNA 서열 생성, 펩타이드 서열 생성을 포함한 다양한 생물학적 서열 과제에서 최고 수준의 성능을 달성한다. 코드는 https://github.com/Aalto-QuML/FlexFlow 에서 확인할 수 있다.

arXiv:2602.01493v3cs.LG

OpInf-LLM: 연산자 추론을 통한 LLM 기반 매개변수 PDE 풀이

OpInf-LLM: Parametric PDE Solving with LLMs via Operator Inference

다양한 편미분방정식(PDE)을 푸는 일은 과학과 공학의 기본이다. 대규모 언어 모델(LLM)은 코드 생성, 기호 추론, 도구 사용에서 강력한 능력을 보였지만, 이질적인 설정 전반에서 PDE를 안정적으로 푸는 것은 여전히 어렵다. LLM 기반 코드 생성과 PDE 학습을 위한 트랜스포머 기반 파운데이션 모델에 대한 기존 연구는 유망한 진전을 보였다. 그러나 특히 보지 못한 매개변수와 경계 조건으로의 일반화가 요구될 때 실행 성공률과 수치 정확도 사이의 지속적인 상충 관계가 나타난다. 본 연구에서는 연산자 추론을 통한 LLM 매개변수 PDE 풀이 프레임워크인 OpInf-LLM을 제안한다. 제안한 프레임워크는 소량의 해 데이터를 활용하여 보지 못한 매개변수와 구성을 포함한 다양한 PDE 사례를 정확하게 예측할 수 있게 하며, 자연어 과제 명세와 적절한 특징 매개변수화에 대한 물리 기반 추론을 위해 LLM과의 매끄러운 통합을 제공한다. 낮은 계산 요구량과 통합된 풀이 파이프라인은 이질적인 설정 전반에서 높은 실행 성공률을 가능하게 하며, LLM 기반 PDE 풀이에서 일반화 가능한 축소 차수 모델링의 새로운 가능성을 연다.

arXiv:2609.19134v2cs.CL

ScienceIDE: 세계의 과학 코드베이스를 에이전트가 학습할 수 있는 환경으로 전환하기

ScienceIDE: Turning World's Scientific Codebase into Agent Learnable Environments

과학 코드 저장소는 수십 년에 걸친 인류의 지식을 실행 가능한 모델, 방법, 도구에 담고 있다. 그러나 파편화된 툴체인, 암묵적인 도메인 관행, 전문화된 정확성 기준 때문에 이러한 지식을 신뢰할 수 있는 학습 경험으로 전환하기 어려우며, 우리는 이를 과학적 경험 병목이라 부른다. 우리는 세계의 과학 코드를 과학 에이전트를 위한 프로그래밍 가능한 환경으로 전환하는 인프라인 ScienceIDE를 소개한다. 전문가가 정의한 과학적 사례와 수용 기준의 안내에 따라, 에이전트는 저장소를 과제 생성, 실행, 과학적 검증을 지원하는 실행 가능한 환경으로 변환한다. 이러한 환경은 지도 미세조정, 강化학습, 평가를 위한 공통 기반을 제공한다. 검증된 상호작용 궤적을 사용하여 PhAI-IDE-72B/9B/4B를 학습시킨다. 이 모델 계열은 보류된 과학 코드 수정 과제와, 코드, 추론, 지식 분야에서 선별된 범용 벤치마크 전반에서 성능 향상을 보여, 과학적 경험에서 더 넓은 능력으로의 긍정적 전이에 대한 증거를 제공한다. ScienceIDE는 에이전트 학습과 과학적 실천을 위한 통합 작업 공간의 토대를 마련하며, 인류의 과학 소프트웨어를 과학 지능 개발을 위한 공유 기반으로 만든다. 코드: https://github.com/aitofound/ScienceIDE

arXiv:2608.29519v3cs.CV

FuncRoom-Agent: 순차 피드포워드 3D 기능적 실내 장면 생성

FuncRoom-Agent: Sequential Feed-Forward 3D Functional Indoor Scene Generation

기능-룸 생성(Function-Room Generation)을 소개한다. 이는 시각적으로 그럴듯한 배치에 그치지 않고 명시적 기능 목표를 지원하는 실내를 만드는 새로운 실내 3D 장면 생성 설정이다. 기존 에이전트 기반 및 실행 가능한 방법은 제어 가능성을 높이지만, 종종 비용이 큰 테스트 시점 생성-평가-수정 루프에 의존하여 기능적 실내 생성을 느리고 계산 비용이 크게 만든다. 이 도전에 세 가지 기술적 기여로 대응한다. 첫째, 기능적 실내에 필요한 계층적 객체 구성—실내 구조와 주요 가구부터 밀집된 지지면 및 중첩된 소형 객체까지—을 효과적으로 정리하기 위해 재귀적 도메인 특화 언어(DSL)를 설계한다. 이는 실내를 명시적 기하 및 기능 관계를 갖춘 단계별 실행 가능 프로그램으로 표현한다. 둘째, 재귀적 구성 trace를 장면 구성 전문가로 증류하는 순차 피드포워드 장면 구성 프레임워크를 제안한다. 추론 시 전문가가 단계별로 실행 가능한 DSL 코드를 작성하고, 결정적 실행기가 교사 에이전트, 온라인 critic, 또는 반복적 수정 없이 각 단계를 직접 인스턴스화한다. 셋째, ScenePRM을 도입한다. 이는 기능적, 기하적, 관계적, 미래 구성 가능성 피드백을 활용한 강화학습으로 전문가를 개선하는 실행 기반 과정 보상(process reward) 프레임워크이다. 또한 기능 지향 벤치마크를 구축하고, 일반 실내 장면 생성과 기능-룸 생성 모두에서 최첨단 성능을 보이며, 기능적 완전성, 관계 정확성, 기하 실행 가능성, 생성 효율에서 더 강한 결과를 달성한다.

arXiv:2606.11817v3cs.CR

문법 제약 디코딩(GCD)은 LLM을 탈옥시켜 악성 코드를 생성하게 할 수 있다

Grammar-Constrained Decoding Can Jailbreak LLMs into Generating Malicious Code

대규모 언어 모델(LLM)은 코드 생성에 점점 더 많이 사용되고 있으며, 악성 코드를 생성하는 데 오용될 수 있다는 우려가 제기되고 있습니다. 한편, 문법 제약 디코딩(GCD)은 구문적 유효성을 강제하여 LLM이 생성한 코드의 신뢰성을 높이기 위해 널리 채택되었습니다. 본 논문에서 우리는 직관에 반하는 위험을 밝혀냅니다: 이러한 신뢰성 지향 기술 자체가 공격 표면이 될 수 있다는 것입니다. 우리는 GCD를 악용하여 LLM이 악성 코드를 생성하도록 유도하는 CodeSpear라는 새로운 탈옥(jailbreak) 공격을 발견했습니다. 실험 결과, 단순히 양성의 코드 문법 제약을 적용하는 것만으로도 LLM을 효과적으로 탈옥시킬 수 있음을 보여줍니다. 이러한 취약점을 해결하기 위해, 공격자가 제어하는 문법 제약 하에서도 안전한 행동을 견고하게 유지하는 안전성 정렬 접근법인 CodeShield를 제안합니다. CodeShield는 GCD 하에서 허니팟 코드를 생성하도록 모델을 학습시켜 코드 모달리티에서 모델을 정렬합니다. 이러한 코드는 의미적으로 무해하여 악의적인 요청을 구현하지 않으며, 구조적으로 다양하여 문법 강화를 통해 억제하기 어렵습니다. 동시에 CodeShield는 자연어를 사용할 수 있는 경우 자연어 거부를 여전히 보존합니다. 4개의 벤치마크에서 10개의 인기 있는 LLM을 대상으로 한 실험에 따르면, CodeSpear는 대표적인 탈옥 기준선(baselines)보다 성능이 뛰어나며 평균 공격 성공률을 30%p 이상 높입니다. 또한 CodeShield는 양성 유틸리티를 보존하면서 CodeSpear 하에서 안전성을 회복합니다. 우리의 연구 결과는 GCD의 근본적인 위험을 드러내며, 잠재적인 보안 영향에 대해 더 큰 관심을 기울일 필요가 있음을 시사합니다.

arXiv:2510.08369v3cs.LG

안내형 별 모양 마스크 확산

Guided Star-Shaped Masked Diffusion

사전학습된 마스크 확산 모델의 성능은 결정을 되돌릴 수 없게 만들고 적은 단계의 생성 영역에서 어려움을 겪는 샘플링 절차에 의해 제약되는 경우가 많다. 본 연구는 사전학습된 모델과 함께 작동하며, 단일 계층의 경량 미세조정 후 샘플 품질과 효율을 크게 향상시키는 새로운 샘플링 알고리즘을 제안한다. 본 방법은 생성 과정을 별 모양(star-shaped) 패러다임으로 재정식화하여 본질적으로 오류 수정을 가능하게 한다. 이 과정을 효과적으로 만들기 위해, 오류일 가능성이 높은 부분을 지능적으로 식별하고 수정하는 학습 가능한 재마스킹 스케줄러를 추가한다. 이 접근법은 특히 적은 샘플링 단계를 사용할 때 상당한 품질 향상을 가져온다. 접근법의 핵심 구성 요소를 폭넓게 절제 실험하고 다양한 시나리오에서의 유용성을 보인다. 텍스트 및 코드 생성에 대한 종합적인 실험에서 본 샘플링 알고리즘은 기존 방법을 능가하거나 대등한 성능을 보인다.

arXiv:2606.27786v3cs.CL

SPARK: Adaptive Parametric Knowledge Participation for Faithful Retrieval-Augmented Generation

Retrieval-augmented generation (RAG) enhances the faithfulness of large language models (LLMs) by incorporating external knowledge into the generation process. However, conflicts between retrieved context and parametric knowledge can cause LLMs to rely on inconsistent internal knowledge, hindering their ability to faithfully leverage retrieved evidence. Existing approaches mitigate this issue by editing parametric knowledge to resolve such conflicts. However, locating and modifying knowledge encoded in model parameters is challenging and may inadvertently compromise the backbone LLM's capabilities. In this paper, we introduce SPARK, a novel framework that formulates parametric knowledge control as a latent participation policy learning problem, enabling LLMs to adaptively regulate the contribution of parametric knowledge during generation. Specifically, SPARK introduces a lightweight participation policy that dynamically modulates the contribution of FFN-mediated parametric knowledge while keeping the backbone LLM frozen. The participation policy is optimized with a faithfulness-oriented reward, enabling fine-grained control over parametric knowledge participation during generation. Extensive experiments on six datasets validate the effectiveness of SPARK, which introduces and optimizes only 0.01\% additional trainable parameters while keeping the backbone LLM fully frozen, thereby preserving its general capabilities and achieving more faithful generation than competitive baselines. All datasets and code are available at https://github.com/OpenBMB/SPARK.

arXiv:2609.19906v3cs.RO

폐루프 로봇 소프트웨어의 학습과 전이

Learning and Transferring Closed-Loop Robot Software

폐루프 로봇 정책은 관측 처리, 상태 관리, 상황 의존적 분기를 필요로 하므로 수작업으로 설계하고 조정하는 데 비용이 많이 든다. 코딩 에이전트가 제어 코드 생성과 최적화를 점점 더 지원하고 있지만, 원본 과제에서 개선된 구현이 새로운 과제의 정책 습득도 뒷받침하는지는 여전히 불분명하다. 우리는 완전한 폐루프 구현을 재사용 가능한 실행 경험으로 취급하여 이 질문을 연구한다. 각 원본 정책을 학습하기 위해 코딩 에이전트는 소수의 성공적인 시연으로부터 정책 코드를 생성하고 시뮬레이션 피드백을 사용해 반복적으로 개선한다. 검증으로 선택된 구현은 소프트웨어 아카이브에 보관된다. 습득한 소프트웨어를 새로운 과제로 전이하기 위해, 에이전트는 아카이브된 구현, 대상 시연, 실행 피드백을 사용하여 정책을 생성하고 개선한다. 우리는 정책 학습과 그것이 과제 간 전이와 갖는 관계를 평가한다. 학습의 경우, RoboCasa의 네 가지 원본 과제 전반에서 반복 최적화는 성공률을 초기 생성 정책 코드의 28.3%에서 검증으로 선택된 정책 코드의 64.2%로 높인다. 또한 이 학습 접근법을 실제 Unitree G1에서 검증한다. 전이의 경우, RoboCasa의 아홉 가지 추가 대상 과제 전반에서 성공률은 참조 없이 45.2%, 원본 과제의 초기 생성 정책 코드를 사용하면 41.5%, 검증으로 선택된 정책 코드를 사용하면 57.0%이다. 이러한 결과는 원본 과제 코드를 개선하면 새로운 과제의 학습도 개선됨을 보여준다.

arXiv:2606.25402v2cs.SE

LibEvoBench: 코드 생성 모델의 시간적 지식 계층화 탐구

LibEvoBench: Probing Temporal Knowledge Stratification in Code Generation Models

대규모 소프트웨어 프로젝트는 릴리스마다 API가 계속 진화하는 상황에서도 라이브러리의 이전 버전에 의존하는 경우가 많다. 이는 LLM에 과제를 안겨 주는데, LLM은 최신 버전이나 가장 흔한 버전만이 아니라 여러 API 버전에 대한 지식을 유지해야 하기 때문이다. 그러나 현재의 LLM은 시간적으로 혼합된 코퍼스로 학습되며 이러한 버전별 추론을 위한 명시적 메커니즘이 없어, 다른 라이브러리 버전에 존재하는 형태로 API를 호출하는 시대착오적 오류가 발생한다. 이 현상을 체계적으로 평가하기 위해, 널리 쓰이는 Python 라이브러리의 여러 버전에 걸친 다중 작업 벤치마크 LibEvoBench와, 진화하는 API를 다룰 때 모델의 일관성을 측정하는 새로운 지표인 소프트웨어 진화 이해 점수(Software Evolution Understanding Score, SEUS)를 소개한다. 실험 결과, 최첨단 모델은 대체로 버전을 인식하지 못한다. 진화하는 API에서는 성능이 저하되는 반면 안정적인 API에서는 버전에 관계없이 성능이 동일하게 유지된다. 더욱이 대상 버전을 단순히 명시하는 것은 이점이 없으나, 관련 문서를 제공하면 모델의 정확도가 크게 향상된다. 이러한 결과는 현재 학습 패러다임의 체계적인 한계를 보여 주며, 코드 생성에서 시간적으로 근거를 갖춘 지식을 위한 새로운 접근법의 필요성을 시사한다.

arXiv:2611.21176v2cs.SE

대규모 언어 모델을 이용한 과학 코딩: 유한요소해석에서의 증거

Scientific Coding with Large Language Models: Evidence from Finite Element Analysis

대규모 언어 모델(LLM)은 과학 프로그래밍을 자동화할 잠재적 경로를 제공하지만, 그 유용성은 수치적으로 올바른 코드를 일관되게 생성하는가에 달려 있다. 본 연구에서는 FEM-Bench를 비선형 및 이력 의존 역학과 구조 동역학을 포함하는 17개의 유한요소 과제로 확장하고, 실행 피드백 없이 구현과 테스트 생성에 대해 15개 모델을 평가한다. 최고 모델은 단일 패스 구현 시행의 87.1%에서 성공하지만, 트랙에 따라 순위가 다르다. 구현 부문 1위 모델은 49.9%의 결합 테스트 성공률을 달성하는 반면, 테스트 부문 1위 모델은 82.6%에 도달한다. 여섯 개 모델에 대해서는 단일 패스 생성을 코드 실행과 수정을 허용하는 두 가지 에이전트 하네스와 비교한다. 에이전트 실행은 단일 패스 시행에서 한 번도 성공하지 못한 일부 과제를 해결하고 다른 과제의 일관성을 개선하지만, 이득은 모델과 하네스에 따라 다르며 퇴행도 발생한다. SimpleAgent를 사용한 Claude Opus 5는 세 번의 시도 중 한 번 이상 성공할 확률인 Pass@3에서 96.5%에 도달하지만, 세 번 모두 성공할 확률인 Pass$^3$에서는 77.1%이다. 어떤 모델-하네스 조합도 Pass$^3$ 78.8%를 넘지 못한다. 에이전트가 자체 검사를 통과한 뒤에도 잘못된 코드를 제출하는 이유를 이해하기 위해, 실패한 에이전트 궤적 249개를 분석하여 자체 검증 실패의 여섯 가지 범주를 식별한다. 가장 흔한 것은 불충분한 테스트 커버리지(73.1%)와 일반적인 일관성 검사에 대한 의존(70.3%)이며, 28.5%의 사례에서는 테스트가 구현과 동일한 오류를 공유한다. 이러한 결과에 착안하여, 코더와 테스터 에이전트를 분리한 탐색적 구성은 Pass@3 97.6%, Pass$^3$ 88.8%로 관찰된 최고 점수를 달성한다. 이러한 결과는 시도 간 일관성과 독립적 검증이 LLM이 생성한 과학 코드를 신뢰하는 데 주된 장애물임을 보여준다.

arXiv:2611.02566v2cs.SE

CR-Bench-v2: AI 코드 리뷰 에이전트의 실제 활용성 평가

CR-Bench-v2: Evaluating the Real-World Utility of AI Code Review Agents

자동 코드 생성의 급속한 성장으로 자동 코드 리뷰의 필요성이 절실해졌다. 그러나 코드 리뷰는 완전 자동화가 어렵다. 코드 리뷰는 \textit{diff} 너머의 맥락, 작성자의 의도, 그리고 전문 리뷰어들조차 의견이 갈리는 설계 및 유지보수성에 대한 판단에 의존하기 때문이다. 기존 코드 리뷰 벤치마크는 표준화가 부족하고, 표면적 중복에 보상을 주며 정밀도를 측정하지 못하는 텍스트 유사도 지표로 채점되는, 잡음이 많은 사람의 리뷰 코멘트에 주로 의존한다. 우리는 SWE-Bench 이슈를 전체 저장소 맥락을 갖춘 풀 리퀘스트 리뷰 과제로 재구성하는 결함 중심 평가 프레임워크인 \texttt{CR-Bench}를 소개한다. 리뷰로 탐지 가능한 결함을 필터링하고 각각을 단일 원본 풀 리퀘스트에 근거시킨 후, \texttt{CR-Bench}는 584개 인스턴스를 포함하며, SWE-Bench Verified에서 파생된 174개 인스턴스의 \texttt{CR-Bench-Verified} 부분집합을 갖는다. 각 인스턴스는 풀 리퀘스트를 알려진 결함, 그 정답 수정, 그리고 버그 범주·영향·심각도에 대한 분류 레이블과 짝지어 구성된다. 우리는 두 가지 상호 보완적인 지표를 제안한다. 하나는 에이전트가 레이블된 결함을 식별하는지 측정하는 \emph{알려진 결함 탐지율}(KDDR)이고, 다른 하나는 실행 가능한 리뷰 코멘트의 비율을 측정하는 \emph{유용성 비율}이다. 우리는 네 가지 백본에 걸친 여덟 개의 코드 리뷰 에이전트와 상용 Gemini Code Assist를 세 개의 독립적인 LLM 심판을 사용하여 평가한다. 가장 강력한 시스템조차 알려진 결함의 약 3분의 1만 탐지하며(KDDR $\approx$ 33\%), Gemini Code Assist는 8.1%를 탐지한다.

arXiv:2603.28767v4cs.CV

Gen-Searcher: Reinforcing Agentic Search for Image Generation

Recent image generation models have shown strong capabilities in generating high-fidelity and photorealistic images. However, they are fundamentally constrained by frozen internal knowledge, thus often failing on real-world scenarios that are knowledge-intensive or require up-to-date information. In this paper, we present Gen-Searcher, as the first attempt to train a search-augmented image generation agent, which performs multi-hop reasoning and search to collect the textual knowledge and reference images needed for grounded generation. To achieve this, we construct a tailored data pipeline and curate two high-quality datasets, Gen-Searcher-SFT-10k and Gen-Searcher-RL-6k, containing diverse search-intensive prompts and corresponding ground-truth synthesis images. We further introduce KnowGen, a comprehensive benchmark that explicitly requires search-grounded external knowledge for image generation and evaluates models from multiple dimensions. Based on these resources, we train Gen-Searcher with SFT followed by agentic reinforcement learning with dual reward feedback, which combines text-based and image-based rewards to provide more stable and informative learning signals for GRPO training. Experiments show that Gen-Searcher brings substantial gains, improving Qwen-Image by around 16 points on KnowGen and 15 points on WISE. We hope this work can serve as an open foundation for search agents in image generation, and we fully open-source our data, models, and code.

arXiv:2512.23676v2cs.AI

웹 월드 모델

Web World Models

언어 에이전트는 행동하고, 기억하고, 학습할 수 있는 지속적인 세계를 점점 더 필요로 한다. 기존 접근법은 두 극단에 놓여 있다. 기존 웹 프레임워크는 데이터베이스가 뒷받침하는 신뢰할 수 있지만 고정된 맥락을 제공하는 반면, 완전 생성형 월드 모델은 무제한의 환경을 목표로 하지만 세계가 주로 생성을 통해 구성되므로 고정적이고 결정론적인 전역 틀을 유지하기 어렵고 제어 가능성이 떨어진다. 본 연구에서는 세계 상태와 "물리"를 일반 웹 코드로 구현하여 논리적 일관성을 보장하고, 대규모 언어 모델은 이 구조화된 잠재 상태 위에서 맥락, 서사, 상위 수준의 결정을 생성하는 절충안인 웹 월드 모델(WWM)을 소개한다. 우리는 실제 지리에 기반한 무한 여행 지도, 가상의 은하 탐험기, 웹 규모의 백과사전식 및 서사적 세계, 시뮬레이션 및 게임 유사 환경을 포함하여 현실적인 웹 스택 위에 일련의 WWM을 구축한다. 이러한 시스템 전반에서 우리는 WWM의 실용적 설계 원칙을 도출한다. 즉, 코드로 정의된 규칙과 모델 주도의 상상을 분리하고, 잠재 상태를 타입이 있는 웹 인터페이스로 표현하며, 결정론적 생성을 활용하여 무제한이면서도 구조화된 탐색을 달성하는 것이다. 우리의 결과는 웹 스택 자체가 월드 모델을 위한 확장 가능한 기반이 될 수 있으며, 제어 가능하면서도 개방형인 환경을 가능하게 함을 시사한다.

arXiv:2611.06343v2cs.CV

Prism: 통합 멀티모달 모델을 위한 양방향 자기 교습

Prism: Bidirectional Self-Teaching for Unified Multimodal Models

통합 멀티모달 모델(UMM)은 하나의 모델 안에서 시각적 이해와 생성을 함께 지원하는 것을 목표로 한다. 기존의 사후 학습 방법은 이해를 고정된 교사로 삼아 생성을 개선하거나, 이해와 생성을 모두 지도하기 위해 정답 궤적에 의존한다. 반면 Prism은 자체 생성한 교차 롤아웃으로부터 양방향 지도 신호를 도출하고, 텍스트 체인과 이미지 체인의 신뢰도에 따라 학습 목표를 구성한다. 본 논문은 UMM을 위한 양방향 자기 교습 사후 학습 방법인 Prism을 제안한다. 프리즘이 혼합된 빛을 분해하듯, Prism은 결합된 교차 궤적을 텍스트 체인과 이미지 체인으로 분리하고, 각 체인의 신뢰도를 평가하며, 그 신뢰도 상태로부터 대응하는 학습 목표를 구성한다. SenseNova-U1과 BAGEL에 대한 실험에서 Prism이 이해와 생성을 모두 향상시킴을 확인했다. 생성 측면에서 SenseNova-U1의 GenEval은 85.8에서 89.2로(+3.4), DPG는 86.1에서 87.3으로(+1.2) 향상되었다. 이해 측면에서는 MME 총점이 2282.6에서 2311.6으로, MMVP가 58.0에서 62.0으로 향상되었다. BAGEL에서도 일관된 향상이 관찰된다. 이러한 결과는 Prism이 목표 구성 과정에서 외부 검증기나 외부에서 주석된 수정 궤적에 의존하지 않고도, 자체 생성한 궤적으로부터 신뢰도 기반 자기 학습 목표를 구성함으로써 생성과 이해의 조율된 향상을 가능하게 함을 보여준다. 코드는 https://github.com/aliyun/qwen-dianjin/tree/master/DianJin-Prism 에서 공개되어 있다.

arXiv:2507.23325v5cs.CV

DualTopo: 이중 잠재 세계 모델과 병렬 질의 지도를 이용한 시공간 차선 그래프 생성

DualTopo: Spatio-Temporal Lane Graph Generation with Dual Latent World Models and Parallel Query Supervision

차선 위상 추론은 조감도(BEV)에서 시공간 도로 그래프 G = (V, E)를 구성하여 계획 지향 자율주행을 위한 구조화된 도로 표현을 제공한다. 스트림 기반 방법은 질의 수준과 BEV 수준 모두에서 시간적 단서를 전파하지만, 두 가지 중대한 한계가 있다. (1) 시간적 질의가 헝가리안 매칭을 지배하여 초기화된 질의가 충분한 지도를 받지 못해 학습이 부족하며, (2) 특징 워핑 중 BEV 경계 정보가 손실되어 시간적 전파가 약해진다. 초기화된 질의는 특히 첫 프레임에서 전파의 앵커 역할을 하므로, 이러한 결함은 프레임에 걸쳐 누적되어 그래프 생성 품질을 저하시킨다. 본 논문은 이중 잠재 세계 모델과 이중 병렬 디코더 경로를 갖춘 시공간 차선 그래프 생성 프레임워크인 DualTopo를 제안한다. 이중 경로 디코더는 시간적 질의와 초기화된 질의를 동시에 지도하여 초기화된 질의가 충분히 학습되고 신뢰할 수 있는 앵커로 기능하도록 한다. 자기 운동에 조건화된 이중 잠재 세계 모델은 과거 관측의 잠재 상태 표현을 현재로 전파하여 시공간 그래프 생성을 크게 개선한다. OpenLane-V2에서의 폭넓은 실험을 통해 선도적인 차선 검출 정확도와 경쟁력 있는 위상 그래프 예측 성능을 확인하였다. 코드는 https://github.com/YimingYang23/DualTopo 에서 제공된다.

arXiv:2605.24371v2cs.CV

SliceWorld: CT 보고서 생성을 위한 예측 가능하고 제어 가능한 월드 상태 모델

SliceWorld: A Predictive and Controllable World-State Model for CT Report Generation

CT 보고서 생성(CTRG)은 모델이 수백 장의 축상 슬라이스로부터 3차원 해부학적 맥락과 병리학적 소견을 요약하도록 요구한다. 기존 방법은 대개 이미지에서 텍스트로의 직접 매핑을 학습하므로, CT 근거가 슬라이스에 걸쳐 어떻게 변화하는지, 또는 병변 관련 잠재 요인의 통제된 변화에 보고서가 어떻게 반응하는지를 모델링하는 메커니즘이 제한적이다. 우리는 축상 CT 스캔을 z축을 따라 정렬된 시퀀스로 다루는 CT 특화 월드 상태 프레임워크인 SliceWorld를 제안한다. SliceWorld는 앞선 구간의 CT 근거를 해부학, 병변, 불확실성 성분을 포함하는 요인 인식 잠재 상태로 인코딩하고, 이 상태를 다단계 미래 슬라이스 특징 예측, 병변 요인 개입, LLM 기반 보고서 생성에 사용되는 월드 토큰으로 사영한다. 모델은 먼저 예측적, 요인 인식, 반사실적 목적함수로 CT 슬라이스 시퀀스에 대해 사전학습된 뒤, 짝지어진 CT-보고서 데이터로 미세조정된다. M3D-Cap과 CT-RATE에서의 실험은 SliceWorld가 자연어 생성 지표와 임상 지향 자동 평가를 향상시킴을 보여 준다. 추가 분석은 다중 시간 범위의 미래 슬라이스 예측, 측정 가능한 요인 정렬, 슬라이스 축소 시의 강건성, 선택적인 병변 민감 보고서 조절을 입증한다. 코드는 https://github.com/synlp/SliceWorld 에서 이용할 수 있다.