MolDesignBench: 시나리오 기반 분자 설계를 위한 LLM 기반 에이전트 평가
MolDesignBench: Evaluating LLM-based Agent for Scenario-grounded Molecular Design
한국어 초록
실제 환경의 분자 설계는 대규모 언어 모델(LLM) 기반 에이전트에게 여전히 까다로운 과제입니다. 이는 에이전트가 설계 맥락을 해석하고, 여러 제약 조건을 충족하며, 실현 불가능한 사양을 식별하고, 다단계 도구 출력에 걸쳐 추론할 것을 요구합니다. 기존 벤치마크는 명시적이고 협소한 제약 조건, 실현 가능한 문제, 단일 경로 솔루션에만 집중하여 이러한 복잡성을 담아내지 못합니다. 이러한 격차를 해소하기 위해, 본 논문에서는 도구 증강 LLM 에이전트를 평가하기 위해 실제 분자 설계를 더욱 밀접하게 반영하는 시나리오 기반 벤치마크인 MolDesignBench를 제안합니다. MolDesignBench는 설계 서사에 내포된 암묵적 요구사항과 명시적인 물성 및 작용기 제약 조건을 결합한 2,000개의 생성 및 최적화 인스턴스로 구성되며, 실현 불가능한 사례를 포함하고 17개의 특화된 화학 도구를 효과적으로 사용할 것을 요구합니다. 다양한 최신 LLM을 대상으로 한 실험 결과, 최고 성능 모델도 약 43%의 성공률에 그치는 등 전반적으로 낮은 성공률을 보였으며, 암묵적 제약 조건 추론, 실현 불가능성 감지, 도구 추론에서 빈번한 실패가 나타났습니다. 이에 상응하는 세밀한 실패 모드 분석을 통해 암묵적 제약 조건 해석과 실현 불가능성 감지가 주요 병목 현상임을 확인하였으며, MolDesignBench가 화학 에이전트에 대한 향후 연구를 이끌 엄격한 시험대임을 확립합니다. 해당 벤치마크, 도구 인터페이스, 평가 코드는 공개되어 있습니다.
원문 초록
Real-world molecular design remains challenging for large language model (LLM)-based agents. It requires them to interpret design contexts, satisfy multiple constraints, identify infeasible specifications, and reason over multi-step tool outputs. Existing benchmarks do not capture this complexity, focusing instead on explicit and narrow constraints, only feasible problems, and single-path solutions. To address this gap, we propose MolDesignBench, a scenario-grounded benchmark that more closely reflects real-world molecular design for evaluating tool-augmented LLM agents. MolDesignBench comprises 2K generation and optimization instances that combine implicit requirements embedded in design narratives with explicit property and functional-group constraints, including infeasible cases, and require the effective use of 17 specialized chemistry tools. Experiments across diverse frontier LLMs reveal low success rates--with the best achieving only $\sim43$\%--and frequent failures in implicit-constraint reasoning, infeasibility detection, and tool reasoning. The corresponding fine-grained failure-mode analysis identifies implicit constraint interpretation and infeasibility detection as the primary bottlenecks, establishing MolDesignBench as a rigorous testbed to guide future research on chemical agents. The benchmark, tool interface, and evaluation code are publicly available.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2609.27349v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
StoreBench: 자율 운영자 에이전트의 평가 및 학습을 위한 라이브 커머스 환경
StoreBench: A Live-Commerce Environment for Evaluating and Training Autonomous Operator Agents
강화학습(RL) 환경은 이제 사후 학습(post-training)에서 대규모 언어 모델(LLM)의 역량을 향상시키는 주요 수단이 되었으나, 대부분의 에이전트 벤치마크는 여전히 정적입니다. 즉, 에이전트가 행동할 때만 환경이 변화하고, 보상은 최종적인 판정으로 주어지며, 통과 기준은 자의적으로 설정됩니다. 본 논문에서는 에이전트가 프로덕션 수준의 상거래 백엔드에서 중간 규모의 온라인 의류 매장을 운영하며 불확실성 속에서 장기 계획 수립 및 경제적 판단력을 시험받는 라이브 커머스 환경인 StoreBench를 소개합니다. 고객은 24시간 내내 주문하고, 공급업체는 가격을 재책정하거나 공급에 실패하며, 시장 충격은 부분적인 예고만 있거나 예고 없이 발생합니다. 에이전트는 실제 인간 운영자가 사용하는 것과 동일한 29개의 판매자 도구를 통해 행동하며, 취해진 행동의 함수로 시뮬레이션 시간을 계산하는 윈도우 기반 운영 예산 하에서 작동하므로 모델 지연 시간이 시뮬레이션 시간에 영향을 미칠 수 없습니다. 통과 임계값은 스크립트 기반 앵커 정책을 기준으로 보정되었고, 보상은 다양한 보상 해킹 목록에 대비해 강화되었으며, 일련의 행동이 주어지면 모든 에피소드가 동일하게 재현됩니다. 본 연구에서는 추론 노력을 일치시킨 상태에서 세 가지 월드 시드에 걸쳐 30~45일 및 시뮬레이션된 1년 전체에 해당하는 11개 시나리오를 바탕으로 7개의 프론티어 LLM을 평가합니다. 평균적으로 스크립트 기반 스마트 트리아지(smart-triage) 정책에 필적하는 모델은 없었습니다. 최고 성능을 보인 DeepSeek-V4-Pro는 휴리스틱의 97% 대비 49%의 태스크-시드 셀을 통과했습니다. 동일한 도구와 예산을 사용하여 작업한 인간 전문가는 모든 모델보다 높은 점수를 기록했습니다(평균 종합 점수 0.708 대 0.700). Claude Code 하네스 기반의 시뮬레이션된 1년 전체에 걸쳐 대다수 모델은 극적인 성능 향상을 보입니다. GRPO 사후 학습 실행에서 서로 다른 5개의 태스크로만 학습된 Qwen3.5-27B는 홀드아웃(held-out) 평가 태스크에서의 평균 종합 점수를 0.136에서 0.373으로 향상시켰습니다. 본 연구에서는 학습 분할용 예시 태스크 5개, 샘플 궤적 10개, 점수 측정 및 검증 툴링을 공개하며, 벤치마크 오염을 방지하기 위해 전체 환경과 평가 스위트는 비공개로 유지합니다.
APEX-Harm: 공유된 전문 업무 공간에서의 에이전트 안전성 평가
APEX-Harm: Evaluating Agent Safety in Shared Professional Workspaces
전문 업무용 에이전트(agent)는 파일, 메시지 및 비즈니스 애플리케이션이 포함된 공유 업무 공간에서 명령줄 인터페이스와 여러 도구를 통해 작업하는 경우가 점점 늘고 있습니다. 이러한 환경은 단일의 알려진 읽기 위치에 배치된 공격으로는 포착하기 어려운 안전성(safety) 위험을 초래합니다. 본 논문에서는 대규모 업무 공간에서 금융, 컨설팅 및 법률 업무를 수행하는 장기 실행(long-horizon) 에이전트를 대상으로 프롬프트(prompt) 및 스크립트 인젝션을 평가하기 위한 벤치마크(benchmark)인 APEX-Harm을 소개합니다. 각 태스크에는 115개에서 328개의 파일이 포함되어 있으며, MCP 서버를 통해 노출되는 이메일, 캘린더, 채팅, 문서, 스프레드시트, PDF 및 코드 실행 도구가 함께 제공됩니다. 이 벤치마크는 정적 및 동적 인젝션, 태스크별 스크립트 대체, 공격자가 제공한 범용 스크립트를 포괄하는 6가지 공격 카테고리를 포함하며, 공격 성공률, 노출도, 태스크 성능을 평가합니다. 저자들은 모델(model)당 180개의 태스크 인스턴스에서 12개의 프론티어 모델을 평가합니다. Opus 5와 Sonnet 5가 가장 낮은 전체 공격 성공률(8% 및 20%)을 기록한 반면, 태스크별 스크립트 대체 및 공격자가 제공한 범용 스크립트 공격은 각각 평균 81~84% 및 73%의 공격 성공률을 기록하여 여전히 상당히 더 효과적이었습니다. Gemini 3.8 Flash는 가장 높은 평균 태스크 점수(0.877)를 달성하면서도 여전히 33%의 공격 성공률을 보였습니다. 이러한 결과는 요청된 태스크를 완수하는 것만으로는 안전한 동작의 충분한 증거가 되지 못함을 보여줍니다. 즉, 에이전트는 업무 공간에서 승인되지 않은 작업을 수행하면서도 올바른 결과물을 생성할 수 있습니다.
시간 내 완수: 기한을 준수하며 생산적인 시간 제한형 AI 에이전트를 향하여
On the Clock: Towards Punctual and Productive Time-Budgeted AI Agents
본 연구에서는 소형 대규모 언어 모델(LLM) 에이전트가 할당된 실행 시간을 준수하면서 주어진 시간을 생산적으로 활용함으로써, 명시적인 실제 시간(wall-clock time) 예산 하에서 효과적으로 작동할 수 있는지 탐구합니다. 추가 계산 시간이 성능을 의미 있게 향상시킬 수 있는 두 가지 에이전트 벤치마크인 MLE-Bench Lite의 5개 대회에서 Qwen3.6-27B를, Zork I(Jericho)에서 Qwen3-4B를 평가합니다. 예산이 프롬프트에만 명시되는 가장 단순한 설정에서는 에이전트가 명시된 예산을 통제된 시간 활용으로 전환하는 데 실패합니다. 이러한 실패는 하네스(harness)가 타이밍 피드백을 제공하지 않아 발생하는 시간 인지의 공백뿐만 아니라, 행동의 소요 시간을 안정적으로 예측하지 못하고 가용 시간에서 적절한 전략으로 이어지는 학습된 매핑이 부재하기 때문에 발생합니다. 저자들은 두 가지 상호보완적인 개입 방식을 조사합니다. 즉, 시간 정보를 노출하고 마감 기한을 강제하는 하네스 기반 메커니즘과 예산을 인식하는 보상을 적용한 강화학습(RL)입니다. 하네스를 통해 시간 정보를 주입하면 성능의 측정 가능한 손실 없이 Qwen3.6-27B의 예산 준수도가 크게 향상되며, 강제 훅(enforcement hook)을 적용하면 준수도가 더욱 엄격해집니다. GRPO를 활용한 강화학습은 Zork I에서 거의 완벽한 예산 준수를 달성하고 학습 중 보지 못한 미확인(held-out) 예산에도 일반화되지만, MLE-Bench에서 학습되지 않은 하네스 대비 작업 성능을 향상시키지는 못합니다. 에이전트가 예산을 준수하도록 만든 후에도, 추가 시간을 작업 성능 향상에 활용하는 데는 여전히 실패합니다. 강화학습으로 학습된 정책은 종료 시점을 학습하지만 남는 시간을 반복적인 행동으로 채우는 경우가 많으며, 여러 예산에 대한 GRPO 학습은 가장 짧은 예산에 대해 학습된 전략으로 수렴(collapse)하는 경향을 보입니다. 본 연구 결과는 시간 준수와 생산적인 시간 배분 사이의 격차를 드러내며, 이는 예산 조건부 에이전트의 핵심 과제로 남아 있음을 보여줍니다.
가설 설정은 저렴하고 검증은 비싸다: 에이전트 기반 취약점 탐지의 방어 표면
Cheap to Hypothesize, Costly to Verify: The Defense Surface of Agentic Vulnerability Discovery
자율형 대규모 언어 모델(LLM) 에이전트(agent)는 취약점 탐지를 저장소 규모의 탐색으로 전환합니다. 이들은 수많은 취약점 가설을 생성하지만 한정된 예산 내에서는 그중 일부만을 검증할 수 있습니다. 본 연구에서는 자율형 취약점 탐지가 가설-검증 비대칭성을 보이며, 도달 가능성 분석, 실행 및 개념 증명(PoC) 구축을 통해 후보 가설을 검증하는 비용이 가설을 수립하는 비용보다 훨씬 크다는 점을 보입니다. 한정된 자원 예산 하에서 이는 자율 탐지를 자원 제약적 선택적 검증 과정으로 만들며, 나아가 검증에 드는 노력을 고유한 방어 표면으로 노출시킵니다. 본 논문에서는 검증 노력을 실제 취약점으로부터 분산시키는, 증명 가능하게 안전한 미끼를 삽입하는 RedHerring을 제시합니다. 각 미끼는 검증을 유도하는 CVE 유래 취약점 체인과 위험한 싱크(sink)에 도달할 수 없도록 유지하는 거짓 브리지(false bridge)를 결합합니다. 방어자는 비공개 인증서를 통해 이 특성을 효율적으로 검증할 수 있는 반면, 공개된 저장소로부터 동일한 사실을 밝혀내는 것은 계산적으로 어려운 문제를 해결해야 합니다. RedHerring은 나아가 각 미끼를 대상 저장소에 맞게 조정하여 일반적인 프로그램 로직처럼 읽히도록 합니다. 33개의 OSS-Fuzz 프로젝트, 70개의 평가(evaluation) 인스턴스, 동일한 예산 하의 5개 모델에 걸쳐 RedHerring은 탐지되는 실제 취약점을 38.7~60.4% 감소시킵니다. 궤적 분석 결과 에이전트는 완료 토큰(token)의 30.6~51.5%와 예상 실행 시간의 32.5~49.9%를 미끼를 검증하는 데 소비하는 것으로 나타나, RedHerring이 고정된 탐색 예산의 상당 부분을 미끼로 전환함을 보여줍니다. 미끼가 존재할 수 있음을 명시적으로 인지했을 때 에이전트는 탐색 전략을 조정하지만, 그럼에도 RedHerring은 정보를 인지한 기준선(baseline) 대비 발견된 취약점을 37.2% 감소시켜 미끼의 은닉 여부에 효과가 좌우되지 않음을 입증합니다.
자기 진화형 기술은 미학습 태스크에도 일반화되는가?
Do Self-Evolving Skills Generalize to Held-Out Tasks?
AI 에이전트(agent)는 이전 태스크에서 학습한 내용을 절차, 체크리스트, 코드 또는 기타 실행 가능한 아티팩트와 같은 재사용 가능한 기술(skills)로 외재화하여 새로운 태스크를 해결할 때 검색 및 재사용할 수 있습니다. 자기 진화형 기술(self-evolving skill) 방법은 학습(training) 태스크에 대한 연습을 거칠 때마다 이러한 기술을 지속해서 다시 작성하며, 이후 동일한 종류의 새로운 태스크에 해당 기술을 활용합니다. 본 논문에서는 기술이 학습 태스크에서 보인 개선 효과가 새로운 테스트 태스크로도 이어지는가라는 질문을 던집니다. 저자들은 모든 방법에 동일한 모델(model), 동일한 에이전트, 동일한 학습/테스트 분할을 적용하여 6개 벤치마크에서 5가지 자기 진화 방법과 원샷(one-shot) 기술을 테스트했습니다. 학습 태스크에서 성능 향상을 보인 21개 기술 중 5개는 테스트 태스크에서도 그 개선 효과를 온전히 유지했고, 13개는 일부만 유지했으며, 3개는 전혀 유지하지 못했습니다. 모든 영역에서 가장 뛰어난 기존 방법은 없었습니다. 기술 내용을 분석한 결과, 일반화 성능이 낮은 기술들은 열 이름이나 출력 파일과 같이 태스크에 종속되어야 하는 세부 사항을 고정해 버리거나, 단일 실패에 대한 해결책을 모든 태스크를 위한 규칙으로 일반화하는 경우가 많았습니다. 기술 내용을 읽는 LLM 판정자(judge)는 이러한 점을 포착할 수 있어, 86%의 쌍에서 테스트 결과와 동일한 방식으로 완성된 기술들의 순위를 매겼습니다. 그러나 단일 수정의 영향은 제대로 예측하지 못하므로, 수정 사항은 여전히 직접 실행하여 테스트해야 합니다. 이러한 발견을 바탕으로 본 논문에서는 기술 작성 가이드만 유지하고 태스크마다 새로운 기술을 작성하는 일반화 가능한 기술 최적화(GSO, Generalizable Skill Optimization)를 제안하며, 이 방법은 6개 벤치마크 모두에서 가장 높은 점수를 기록했습니다.
LLM을 에이전트로 활용하기: 비용은 얼마인가?
Harnessing LLMs as Agents: What Does It Cost?
언어 모델 에이전트는 제한된 컨텍스트(bounded context), 영속 메모리(persistent memory), 도구, 검증, 반복 실행을 관리하는 하네스(harness)에 점점 더 의존하고 있지만, 기존의 모델 능력 개념은 이러한 메커니즘이 소비하는 계산 자원을 정량화하지 못한다. 우리는 기저 의미론적 모델(semantic model)은 고정한 채 하네스 수준의 자원을 명시적으로 과금하는 자원 제약 추상화인 언어 모델 에이전트 머신(Language Model Agent Machine, LAM)을 도입한다. 우리는 네 가지 범주의 결과를 확립한다. 통신(Communication): LAM 실행은 동시적인 호출-전송 예산(call-transfer budget) 하에서 적-청 페블링(red-blue pebbling)과 인스턴스 단위로 동등하며, 이는 고전적인 입출력 하한(I/O lower bound)을 컨텍스트-메모리 트래픽으로 전이시킨다. 접근(Access): 메모리 인터페이스는 포인터 체이싱(pointer chasing)에서 무작위 접근과 비추측적(non-speculative) 순차 접근 사이의 $Θ(n)$ 격차를 포함하여 점근적 분리(asymptotic separation)를 유발한다. 재계산(Recomputation): 비트 반전(bit-reversal) DAG는 컨텍스트 용량 $C$와 영속 메모리 용량 $S$ 하에서 $Θ(n^2/(C+S)+n)$회의 모델 호출을 필요로 하며, 이는 저장된 중간 상태가 반복적인 의미론적 계산을 언제 피할 수 있는지를 정량화한다. 신뢰성(Reliability): 우리는 엄밀한 단계별(stage-local) 샘플링 한계, 불완전 검증(imperfect-verification)의 정확한 비용, 그리고 닫힌 형태의 최적 검증 간격을 갖는 영-데일리(Young-Daly) 유형의 체크포인트 법칙을 유도한다. GPT-6 Astra에 대한 통제 실험과 홀드아웃(held-out) 실험은 체크포인트 최적값, 프로그래밍적 검사(programmatic checking) 하에서의 정책 선택, 그리고 연쇄 MATH 과제에서 호출 단위(call granularity), 논리적 입력 트래픽, 신뢰성 간의 트레이드오프를 포함하여 통신 및 신뢰성 예측을 검증한다. 종합적으로, 이 결과들은 언어 모델 에이전트 하네스의 계산 비용에 대한 자원 이론(resource theory)을 제공한다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.