분해능 가설: 에이전트 진화의 핵심은 개선을 식별하는 데 있다
The Resolution Hypothesis: Agent Evolution's Key Is Identifying Improvements
한국어 초록
에이전트 진화는 간단한 반복으로 이루어진다. 제안기가 프롬프트, 스킬, 메모리 같은 후보 산출물을 작성하고, 선별 단계에서 점수가 더 높은 후보를 채택한다. 이 반복 방식은 가능성을 보였지만, 논문마다 우수한 방법이 다르고 일부 과제에서는 진화가 초기에 진전되지 않는 문제가 있다. 이를 설명하기 위해 분해능 가설을 제시한다. 더 나은 후보가 제안돼도 평가의 잡음 때문에 그 후보를 신뢰성 있게 식별하지 못하면 에이전트 진화가 정체된다는 가설이다. 진화 방법 7개와 모델 6개로 LLM을 1,000만 회 넘게 호출한 실험에서 평가 점수를 사용하는 두 수준 모두 가설을 뒷받침했다. 후보 산출물을 고르는 수준에서는 유용한 후보가 존재하지만 선별은 이를 성능을 해치는 후보와 구별하는 데 무작위 선택보다 낫지 않았다. 따라서 반복할 때마다 오류가 쌓인다. 방법 간 순위를 매기는 수준에서는 흔히 관찰되는 수 퍼센트포인트 차이가 동일한 방법을 독립적으로 두 번 실행했을 때의 차이보다 작았다. 따라서 발표된 순위가 우연에 좌우되는 경우가 많다. 이 결과는 에이전트 진화의 병목이 실제 개선을 신뢰성 있게 식별하는 데 있음을 보여 준다. 자기 개선 에이전트를 개발하고 평가할 때 후보 제안 시스템을 더 많이 설계하는 데서 실제 개선을 감지하고 누적할 수 있게 하는 데로 초점을 옮길 필요가 있다.
원문 초록
Agent evolution follows a simple loop: a proposer writes candidate artifacts (prompts, skills, memories) and selection accepts those that score higher. This loop has shown promise, yet practitioners face a puzzle: methods trade wins across papers, and evolution often fails to bootstrap on certain tasks. We trace this puzzle to the Resolution Hypothesis: agent evolution stalls not because methods fail to propose better artifacts, but because noisy evaluations cannot reliably identify them. Across seven evolution methods and six models (over 10M LLM calls), we find support for the hypothesis at both levels where evaluation scores are used. At the candidate level (choosing artifacts), helpful candidate artifacts exist, but selection is no better than random at telling them from harmful ones, so errors accumulate across rounds. At the method level (ranking methods), typical margins of a few percentage points are smaller than the difference between two independent runs of the same method, so published rankings often rest on luck. Together, these findings indicate that agent evolution is often bottlenecked by reliably identifying improvements. This calls for a shift in how we develop and evaluate self-improving agents, from designing ever more candidate improvement systems to making true improvements detectable and accumulable.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2611.23068v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공통 태그로 연결된 공개 논문이 아직 없습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.