PyTorchKR Papers

최신 논문

총 2편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2610.13494v1cs.AI

Humanize MLE 에이전트: 단일 에이전트 한계를 넘어서는 다중 에이전트 세션 교대

Humanize MLE Agents: Multi-Agent Session Alternation Beyond Single-Agent Limits

장기 시계(long-horizon) 머신러닝 엔지니어링(MLE)을 위한 기존 LLM 기반 에이전트 접근법들은 흔히 컨텍스트 엔지니어링을 사용하며, 이는 도구, 스킬, 축적된 경험을 관리하는 커스텀 하니스(harness)를 통해 구현된다. 그러나 우리는 단일 세션 실행이 길어질수록 에이전트의 추론 강도가 저하되며 진행 속도가 느려진다는 것을 발견했으며, 이를 장기 시계 둔화(long-horizon deceleration)라고 요약한다. 또한 기반 모델이 개선됨에 따라 이러한 커스텀 하니스의 이점이 사라진다는 것을 발견했으며, 이를 하니스 노후화(harness staleness)라고 요약한다. 이러한 발견은 이러한 이점이 버전 간에 지속되지 않을 수 있음을 시사하며, 이는 에이전트들이 세션에 걸쳐 서로의 작업을 기반으로 발전시키는 워크플로우 수준의 접근법을 동기화한다. 우리는 이러한 교대하는 에이전트 세션을 컨텍스트 재설정 준-마르코프 결정 과정(context-reset semi-Markov decision process, CR-SMDP)으로 모델링하고, 교대가 단일 에이전트 기준선 한계를 초과하기 위한 충분 조건을 수립하며, 명시적인 실험 예산 경계를 도출하고, 세션 상한이 이러한 이점을 보존하는 시점을 규명한다. 이러한 분석에 따라, 우리는 Humanize MLE 에이전트(HMA)를 소개한다. HMA는 공유 작업공간에서 두 에이전트를 교대시키며, 각 세션을 최대 k개의 실험으로 제한하고 세션 간 컨텍스트를 재설정하며, 추가적인 태스크별 하니스나 사전 지식 보강 없이 동작한다. MLE-bench의 75개 캐글(Kaggle) 과제에서 HMA는 78.2%의 최신(state-of-the-art) any-medal 비율을 달성하며, 가장 강력한 오픈소스 기준선을 8.0포인트 상회하면서도 그 시간 예산의 4분의 1만을 사용한다. 또한 다섯 개의 이질적인 에이전트 쌍에 걸친 여섯 가지 구성 중에서, HMA는 구성 요소 기준선들에 비해 any-medal 비율을 평균 6.4포인트 향상시켜, 에이전트 쌍 간 일반성을 입증한다. 커널(kernel) 최적화에 대한 보충 사례에서는 878 사이클에 도달하여 커뮤니티 리더보드 선두와 1.6% 이내의 차이를 보이며, MLE를 넘어선 적용 가능성을 입증한다.

arXiv:2606.11926v1cs.CL

가설 트리 정제를 통한 범용 자율 연구

Toward Generalist Autonomous Research via Hypothesis-Tree Refinement

과학적 진보는 탐험(exploration), 실험, 추상화의 반복되는 루프에 의존합니다. 연구자들은 후보 방향을 테스트하고, 증거를 해석하며, 그 결과로 얻은 교훈을 이후 시도로 가져갑니다. 본 연구는 AI 에이전트가 장기적으로 이 루프를 자율적으로 실행할 수 있는 방법을 탐구합니다. 우리는 장기 수명의 코디네이터(coordinator), 단기 수명의 실행자(executor), 그리고 시간에 걸쳐 가설, 아티팩트(artifact), 증거, 증류된 통찰을 연결하는 지속적인 트리인 가설 트리 정제(HTR, Hypothesis Tree Refinement)를 결합한 자율 연구를 위한 일반적인 프레임워크인 Arbor를 소개합니다. 코디네이터는 트리에 대한 전역 연구 전략을 관리하는 반면, 실행자는 격리된 워크트리(worktree)에서 개별 가설을 구현하고 테스트합니다. 결과가 반환됨에 따라 Arbor는 트리를 업데이트하고, 재사용 가능한 교훈을 전파하며, 탐색 프론티어(frontier)를 정제하고, 검증된 개선 사항을 수용합니다. 이 설계는 자율 연구를 국지적 시도의 연속에서 전략, 실행, 증거가 시간을 초월하여 전달되는 누적적 과정으로 전환시킵니다. 우리는 에이전트가 단계 수준의 인간 감독 없이 반복적인 실험을 통해 초기 연구 아티팩트를 개선하는 운영 설정인 자율 최적화(AO, Autonomous Optimization) 환경에서 Arbor를 평가합니다. 모델 학습, 하네스(harness) 엔지니어링, 데이터 합성의 6가지 실제 연구 작업에 걸쳐 Arbor는 모든 6가지 작업에서 최고의 홀드아웃(held-out) 결과를 달성했으며, 동일한 작업 인터페이스 및 리소스 예산 하에서 Codex와 Claude Code의 평균 상대적 홀드아웃 이득보다 2.5배 이상 높은 성과를 보였습니다. MLE-Bench Lite에서 Arbor는 GPT-5.5를 사용하여 86.36%의 Any Medal을 달성하여 비교 대상 중 가장 강력한 결과를 기록했습니다.