ExplorationBench: 검증 가능한 외계 세계에서의 AI 시스템 탐험 능력 측정
ExplorationBench: Measuring AI Systems' Exploration in Verifiable Alien Worlds
한국어 초록
과학적 발견은 이미 알려진 문제가 끝나는 지점에서 시작됩니다. 이러한 영역에서 AI 시스템은 가설 설정, 실험 설계, 결과에 대한 반복적 개선과 같은 탐험(exploration)을 수행해야 합니다. 그러나 이러한 능력을 평가하는 것은 어렵습니다. (1) 완전히 새로운 가설이 성립하는지 검증하는 방법, 그리고 (2) 시스템이 탐험을 통해 이를 발견했는지 아니면 단순히 사전학습(pre-training) 데이터에서 관련 지식을 회상(recall)한 것뿐인지를 판별하는 방법이 난제이기 때문입니다. 이를 위해 본 논문에서는 검증 가능한 외계 세계(Alien Worlds)를 기반으로 구축되어, 과학적 탐험 평가라는 다루기 힘든 난제를 구체적이고 다루기 쉬운 프레임워크로 전환한 ExplorationBench를 소개합니다. 이 세계의 규칙들은 실행 가능하므로 모든 답을 정확히 확인할 수 있으며, 기존의 친숙한 지식과 상충되므로 단순한 기억이나 회상만으로는 과제를 해결할 수 없습니다. 이 벤치마크는 AlienCode(31개 발견 목표, 70개 과제)와 AlienLogic(24개 발견 목표, 70개 과제)이라는 두 개의 샌드박스로 구성됩니다. 각 샌드박스는 결함이 있는 매뉴얼, 과제별 환경 피드백, 전용 도구 호출(tool-call) 스키마를 제공합니다. 시스템은 이러한 자원을 활용해 샌드박스를 탐험한 뒤, 보류된(held-out) 과제를 해결합니다. 10개의 AI 시스템을 평가한 결과, 가장 강력한 시스템들은 생소한 규칙을 습득하고 적용할 수 있었으나, 수행 궤적(trajectory)에 따라 성능 편차가 크게 나타났으며 지속적인 탐험이 정체되거나 기존에 얻은 성과를 되돌리는 현상도 관찰되었습니다. ExplorationBench는 미지의 환경에서 탐험을 통해 완전히 새로운 지식을 습득하고 적용할 수 있는 AI 시스템을 향한 한 걸음을 제시합니다.
원문 초록
Scientific discovery begins where known problems end. There, AI systems must engage in exploration: framing hypotheses, designing experiments, and iterating on the results. However, evaluating this ability is difficult: (1) how to verify whether a genuinely new hypothesis holds, and (2) how to determine whether a system has discovered it through exploration or merely recalled related knowledge from pre-training data. To this end, we introduce ExplorationBench, which turns the wicked problem of evaluating scientific exploration into a concrete and tractable framework built on verifiable Alien Worlds: their rules are executable, so every answer can be checked exactly, and they conflict with familiar knowledge, so recall alone cannot solve the tasks. The benchmark contains two sandboxes, AlienCode (31 discovery targets, 70 tasks) and AlienLogic (24 discovery targets, 70 tasks). Each sandbox provides a flawed manual, task-specific environmental feedback, and a dedicated tool-call schema. Systems use these resources to explore the sandbox, then solve held-out tasks. We evaluate 10 AI systems and find that the strongest systems can acquire and apply unfamiliar rules, while performance varies substantially across trajectories and continued exploration can stall or reverse earlier gains. ExplorationBench represents a step towards AI systems that can acquire and apply genuinely new knowledge through exploration in unknown environments.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
CompMat-Bench: 계산재료과학을 위한 AI 에이전트 벤치마크
CompMat-Bench: Benchmarking AI Agents for Computational Materials Science
과학 연구 작업에서 AI 에이전트(agent)를 평가하는 것은 기반이 되는 실험이나 계산에 소요되는 시간과 자원의 제약을 받습니다. 계산재료과학 연구에서는 에이전트와 시도 전반에 걸쳐 비용이 많이 드는 동일한 시뮬레이션을 반복하는 것이 평가를 비현실적으로 만들 수 있습니다. 본 연구에서는 최근 발표된 계산재료과학 연구에서 도출된 94개의 작업으로 구성된 벤치마크인 CompMat-Bench를 소개하며, 각 작업은 에이전트가 연구의 과학적 목표를 달성하기 위한 한 단계를 완료하도록 요구합니다. 평가 과정에서 비용이 많이 드는 시뮬레이션을 피할 수 있도록 연구 단계를 미리 재현하고, 고비용 시뮬레이션을 위한 입력 준비 및 출력 분석 능력을 바탕으로 에이전트를 평가합니다. 재현된 입력과 결과는 LLM 심사위원 없이 고정된 규칙으로 에이전트를 채점하기 위한 정답(ground truth) 역할을 합니다. 이 벤치마크는 단일 작업 및 관련 작업으로 구성된 워크플로, 그리고 각각에 대해 방법론적 안내가 완전하거나 축소된 상태를 포함하는 네 가지 평가 조건을 지원합니다. 단일 작업에서 완전한 안내가 제공될 때, 세 가지 대규모 언어 모델(LLM) 기반의 에이전트는 94개 작업에서 66.0-90.4%의 통과율을 보이며 개별 재료 연구 단계를 완수할 수 있는 능력을 입증했습니다. 더 긴 워크플로와 축소된 안내는 모두 에이전트의 성능을 제한할 수 있지만, 에이전트마다 서로 다른 방식으로 작용합니다. 즉, 약한 에이전트의 통과율은 낮아지는 반면, 가장 강력한 에이전트는 긴 워크플로와 축소된 안내가 결합될 때만 성능 저하를 보였습니다. 실패 분석 결과 대부분의 실패는 소프트웨어 사용 오류보다는 과학적 오류에 기인하는 것으로 나타났습니다. CompMat-Bench는 실제 재료 연구 단계에서 에이전트를 비교하고 에이전트의 실패 모드를 분석할 수 있는 기반을 제공합니다.
Build2SPARQL: 빌딩 지식 그래프 쿼리를 위한 대규모 Text-to-SPARQL 벤치마크 데이터셋
Build2SPARQL: A Large-Scale Text-to-SPARQL Benchmark Dataset for Building Knowledge Graph Querying
빌딩 자동화 시스템은 Brick 및 ASHRAE 223P와 같은 온톨로지를 사용하는 시맨틱 지식 그래프(KG)로 점점 더 많이 표현되고 있으며, 이는 인공지능 응용을 위한 기계 판독 가능한 기반을 형성합니다. 유망한 응용 분야 중 하나는 자연어 질문을 SPARQL로 변환하는 Text-to-SPARQL로, 빌딩 관리자가 언어 에이전트를 통해 이러한 그래프를 쿼리할 수 있게 해주지만 대규모 자연어/SPARQL 벤치마크의 부족으로 발전이 제한되고 있습니다. 본 논문에서는 지식 그래프 기반(KG-grounded) 파이프라인으로 생성된 빌딩 지식 그래프용 대규모 벤치마크인 Build2SPARQL을 제시합니다. 이 파이프라인은 SPARQL 쿼리를 전적으로 그래프 순회 코드로 생성 및 검증하는 반면, 대규모 언어 모델(LLM)은 자연어 질문만을 생성하도록 하여 쿼리의 정확성을 모델의 동작과 독립적으로 유지합니다. 해당 파이프라인은 선형 체인, 분기, UNION, 집계, OPTIONAL, 속성 필터링의 6가지 쿼리 패턴 패밀리를 추출하며, 각 쿼리를 5가지 어휘 레지스터에 걸쳐 표현합니다. 201개의 빌딩 지식 그래프(Brick 180개, ASHRAE 223P 21개)에 적용하여 6,136개의 실행 가능한 SPARQL 쿼리와 30,680개의 질문을 도출했습니다. 300개 질문에 대한 2인 평가자 인적 검증 결과 98.8%의 시맨틱 충실도, 98.8%의 자연스러움, 84.0%의 운영 타당성을 확인했습니다. 3개의 공개 가중치(open-weight) 언어 모델에 걸친 검색-증강 평가에서는 완전 일치(exact-match) 정확도가 0.2~20%(제로샷)에서 56~65%(3샷 검색)로 향상되었습니다.
아무것도 예측하지 않는 것이 SAM 3를 능가할 때: 비디오 객체 분할 평가의 재검토
When Predicting Nothing Beats SAM 3: Revisiting Evaluation in Video Object Segmentation
복잡하고 긴 비디오에서의 비디오 객체 분할(Video Object Segmentation, VOS)은 대상 객체가 긴 시간 지평 내에서 간헐적으로만 나타나는 경우가 많은 실제 응용 분야에서 점차 중요해지고 있습니다. 그러나 기존 벤치마크는 대부분 비디오의 대부분 동안 가시적으로 유지되는 시간적으로 두드러진 객체에 주로 초점을 맞추고 있습니다. 이러한 공백을 해결하기 위해 본 논문에서는 낮은 시간적 가시성 조건에서 VOS 방법을 평가하도록 설계된 벤치마크인 FaVOS(A Benchmark for Video Object Segmentation with Fractional Temporal Visibility)를 소개합니다. 우리는 이러한 조건에서 표준 J&F 지표가 대상이 존재하지 않는 프레임에 대한 빈 예측에 높은 보상을 부여하기 때문에 VOS 평가를 부재 분류(absence classification)로 전락시킬 수 있음을 보입니다. 그 결과, 자명한 빈 마스크 예측기조차 SAM 3와 같은 강력한 모델을 능가할 수 있으며, 이는 현재 지표와 실질적인 VOS 성능 간의 근본적인 불일치를 드러냅니다. 이 문제를 완화하기 위해 마스크 시퀀스를 시공간 볼륨으로 평가하고 분할 품질 및 시간적 구조에 대한 민감도를 유지하면서 대상 부재 보상의 지배력을 줄이는 Volumetric J&F를 제안합니다. 프로젝트 페이지: https://aidaslab.github.io/FaVOS.
ELMA: 장기 텍스트 기반 모션 생성을 위한 조응적 구성 벤치마킹
ELMA: Benchmarking Anaphoric Compositions for Long-Term Text-to-Motion Generation
RetryBench: GPT 도구 사용에서 재시도 권한과 복구 결과의 분리
RetryBench: Separating Retry Permission from Recovery Outcomes in GPT Tool Use
전역 일관성: 모든 에이전트가 옳아도 팀 전체는 틀릴 때 - 멀티 에이전트 협업을 위한 국소-전역 의미론적 기반
Global Coherence: When Every Agent Is Right and the Team Is Still Wrong - A Local-to-Global Semantic Foundation for Multi-Agent Collaboration
토론
이 논문과 연결된 포럼 글이 아직 없습니다.