Large language model (LLM) agents increasingly rely on reusable skills, but skills are usually written by hand, and letting an agent change them on its own calls for explicit user control. We report on EvoAgent, an evolvable agent framework built for a foreign trade assistant, and share the engineering choices behind it. We organize the agent as a harness of four components (reasoning, context engineering, tools and state) and confine self-improvement to the user's persistent state: profile, memory and skills. Skills are multi-file packages with lazily loaded references, matched in three stages (keyword, embedding, LLM). The main agent can delegate to sub-agents with their own context, and long histories are compressed while an index of recoverable resources is kept. An offline loop reviews completed sessions to update the profile and memory and to propose skills; in the open-source release a skill changes only after the user confirms the proposal. On 172 foreign trade test cases scored by an LLM judge on five dimensions, GPT-5.2 with EvoAgent scored about 28% higher than GPT-5.2 called directly with only the final query. This is a single run judged by the model under test, so it measures the harness as a whole rather than any one mechanism, and swapping in GPT-4.1 or Qwen3.5-35B-A3B lowered the scores relative to calling those models directly. Several mechanisms described here were added after the version we evaluated and are not evaluated. The evaluation data is proprietary, so the results are for reference only. An open-source release of the code, which is not the evaluated business version, is available at https://github.com/Focus-AI-Center/Mentarc-EvoAgent
AI 에이전트(agent)는 이전 태스크에서 학습한 내용을 절차, 체크리스트, 코드 또는 기타 실행 가능한 아티팩트와 같은 재사용 가능한 기술(skills)로 외재화하여 새로운 태스크를 해결할 때 검색 및 재사용할 수 있습니다. 자기 진화형 기술(self-evolving skill) 방법은 학습(training) 태스크에 대한 연습을 거칠 때마다 이러한 기술을 지속해서 다시 작성하며, 이후 동일한 종류의 새로운 태스크에 해당 기술을 활용합니다. 본 논문에서는 기술이 학습 태스크에서 보인 개선 효과가 새로운 테스트 태스크로도 이어지는가라는 질문을 던집니다. 저자들은 모든 방법에 동일한 모델(model), 동일한 에이전트, 동일한 학습/테스트 분할을 적용하여 6개 벤치마크에서 5가지 자기 진화 방법과 원샷(one-shot) 기술을 테스트했습니다. 학습 태스크에서 성능 향상을 보인 21개 기술 중 5개는 테스트 태스크에서도 그 개선 효과를 온전히 유지했고, 13개는 일부만 유지했으며, 3개는 전혀 유지하지 못했습니다. 모든 영역에서 가장 뛰어난 기존 방법은 없었습니다. 기술 내용을 분석한 결과, 일반화 성능이 낮은 기술들은 열 이름이나 출력 파일과 같이 태스크에 종속되어야 하는 세부 사항을 고정해 버리거나, 단일 실패에 대한 해결책을 모든 태스크를 위한 규칙으로 일반화하는 경우가 많았습니다. 기술 내용을 읽는 LLM 판정자(judge)는 이러한 점을 포착할 수 있어, 86%의 쌍에서 테스트 결과와 동일한 방식으로 완성된 기술들의 순위를 매겼습니다. 그러나 단일 수정의 영향은 제대로 예측하지 못하므로, 수정 사항은 여전히 직접 실행하여 테스트해야 합니다. 이러한 발견을 바탕으로 본 논문에서는 기술 작성 가이드만 유지하고 태스크마다 새로운 기술을 작성하는 일반화 가능한 기술 최적화(GSO, Generalizable Skill Optimization)를 제안하며, 이 방법은 6개 벤치마크 모두에서 가장 높은 점수를 기록했습니다.
대규모 언어 모델(LLM)은 이제 자신이 따르는 지침을 수정함으로써 스스로를 개선할 수 있으며, LLM 에이전트는 복잡한 문제를 함께 해결하도록 점점 더 많이 조율되고 있다. 그러나 자기개선 방법은 일반적으로 한 번에 하나의 시스템만을 최적화하며, 멀티에이전트 프레임워크에서는 흔히 모든 모델이 공유된 목표를 향해 작업한다. 우리는 다른 질문을 던진다. 각 에이전트가 자신만의 보상을 추구할 때, 자기개선형 LLM들이 전체 집단을 개선할 수 있을 만큼 서로로부터 잘 학습할 수 있는가? 우리는 이러한 능력을 재귀적 사회적 개선(recursive social improvement)이라고 부른다. 우리는 스킬 파일을 수정하고, 누구로부터 언제 복제할지, 그리고 복제할지 여부를 선택하는 집단을 연구한다. 독립적 탐색, 동료로부터의 학습, 그리고 행동은 모두 하나의 토큰 예산을 공유한다. 통제된 환경에서, 기존에 확립된 소셜 러닝 알고리즘은 동료로부터 이득을 얻지만, 세 개의 LLM은 그렇지 않다. 이들은 솔로 학습자보다 토큰당 더 적은 보상을 얻으며, 지나치게 좁게 탐색하거나 행동하기 전에 토큰이 소진된다. 이후 우리는 모델들이 자신의 스킬을 직접 작성하고 수정하도록 한다. 동료를 관찰하는 것은 이들이 개선하는 방식을 변화시켜, 한 모델은 유용한 스킬을 더 빨리 찾도록 돕고 다른 모델은 개인 탐색에 더 적은 비용을 쓰도록 돕는다. 그러나 둘 다 동일한 비용에서 독립적 학습자보다 더 나은 성과를 내지는 못한다. 스킬은 복제되고, 수정되고, 전달되므로, 하나의 발견이 추가 탐색의 씨앗이 될 수 있다. 그러나 이러한 교환은 집단을 더 적은 수의 독립적 발견 주변으로 집중시킨다. 종합적으로, 이러한 결과는 LLM이 동료로부터 복제함으로써 학습을 더 효율적으로 만들 수 있지만, 아직 더 효과적으로 만들지는 못한다는 것을 보여준다.
대규모 언어 모델(LLM) 에이전트는 추론, 도구 사용, 코드 실행을 결합하는 추론 시점 워크플로우를 구성함으로써 점점 더 복잡한 과제를 해결하고 있다. 이러한 워크플로우는 유연한 문제 해결을 가능하게 하지만, 실행 중 발견되는 유용한 절차는 종종 일시적이다. 즉, 현재 과제를 해결하는 데는 도움이 되지만 미래 과제에 체계적으로 이익이 될 수 있는 형태로 보존되지 않는다. 본 논문은 성공적인 트레이스를 재사용 가능한 스킬 레코드로 컴파일하는 학습 없는(training-free) 프레임워크인 FlowEvo를 제시한다. 각 레코드는 호출 가능한 아티팩트와 보조 구조화된 가이던스를 쌍으로 묶으며, 승인(admission) 시 가능한 경우 인터페이스, 재현(replay), 안전성 검사를 적용한다. 이러한 스킬 레코드는 추론 시점에 스킬 뱅크에 지속적으로 저장된다. FlowEvo는 세 가지 결합된 메커니즘을 중심으로 구성된다: (1) 워크플로우-투-스킬 컴파일레이션으로, 성공적인 트레이스에서 재사용 가능한 실행 가능 아티팩트를 추출한다; (2) 스킬-투-워크플로우 피드백으로, 축적된 스킬을 검색하여 직접 실행 또는 구조화된 컨텍스트 주입을 통해 미래 문제 해결을 지원한다; (3) 스킬 큐레이션으로, 하류(downstream) 유틸리티를 모니터링하고 부정적 전이(negative transfer)를 유발하는 스킬을 억제한다. 이러한 워크플로우-스킬-워크플로우 피드백 루프를 통해 FlowEvo는 모델 파라미터를 업데이트하지 않고도 에이전트가 시간에 따라 과제 해결 능력을 축적하고 정제할 수 있게 한다. 대화형 환경(ALFWorld)과 코드/수학 생성(HumanEval, GSM8K)에 걸친 벤치마크에서의 실험은 FlowEvo가 우리의 구현 설정 하에서 평가된 기준선 중 최상의 정확도-비용 트레이드오프를 달성함을 보여준다. ALFWorld에서 FlowEvo는 82.8%의 성공률을 달성하여 가장 강력한 기준선보다 23.6퍼센트포인트 높으며, 에피소드당 평균 토큰 사용량은 가장 효율적인 기준선의 절반 미만이다. 통제된 ablation은 각 메커니즘이 전체 결과에 기여함을 확인한다. 코드는 https://github.com/DEFENSE-SEU/FlowEvo 에서 공개되어 있다.
우리는 비디오 메모리로부터의 스킬 학습(SLVMBench, Skill Learning from Video Memory)을 소개한다. 이는 비디오 대규모 언어 모델(video-LLM)이 긴 비디오 메모리에서 스킬을 학습하고 이를 실시간 태스크에 적용할 수 있는지를 함께 평가하는 최초의 벤치마크이다. SLVMBench는 모델에게 2~3시간 분량의 비디오 스트림을 제시하며, 이 스트림에는 임의의 무관한 비디오들 사이에 튜토리얼 비디오가 삽입되어 있어 실제 인간의 학습 방식과 유사하다. Video-LLM은 습득한 스킬을 활용하여 진행 중인 비디오에 대한 실시간 질문에 답해야 한다. 수동적 이해를 강조하는 장시간 비디오 이해 벤치마크나 짧고 즉각적인 데모에 의존하는 스킬 학습 벤치마크와 달리, SLVMBench는 절차적 지식의 기억 및 추출과 이를 실시간 태스크로 전이하는 전체 파이프라인을 평가한다. 또한, 엄격한 인간 어노테이션은 1초 이하 수준의 시간적 보정, 상식적 추측을 배제하도록 수동으로 설계된 질문, 그리고 필요한 스킬의 커버리지를 보장하기 위해 편집된 튜토리얼을 특징으로 한다. 최신 독점 및 오픈소스 비디오 LLM에 대한 평가 결과, video-LLM은 비디오에서 스킬 지식을 학습하고 적용하는 데 상당한 어려움을 겪는 것으로 나타났다. 또한 스킬 지식이 긴 비디오 메모리 내에 배치될 경우 성능이 현저히 저하되었다. 이러한 결과는 기존 비디오 LLM의 핵심 한계를 드러내며, SLVMBench를 긴 컨텍스트 비디오 메모리로부터의 실시간 스킬 습득 및 적용 연구를 위한 최초의 벤치마크로 자리매김한다.
기존 에이전트 벤치마크는 주로 태스크 완료, 도구 사용, 또는 스킬 유용성을 테스트하지만, 런타임이 자신의 실행 이력에서 얻은 증거를 재사용 가능한 스킬로 변환하여 작성 오버헤드 이후 새로운 실행을 개선할 수 있는지는 독립적으로 평가하지 않는다. 우리는 반복적이고 픽스처(fixture) 기반 태스크에서의 이 폐쇄 루프(closed-loop) 스킬 학습 문제를 위한 벤치마크인 EvoClawBench를 소개한다. EvoClawBench는 스킬 없이 직접 실행하는 방식, 실행 전 PreSkill을 작성하는 방식, 그리고 첫 번째 실행 증거로부터 PostSkill을 요약한 뒤 새로운 두 번째 실행을 수행하는 방식을 비교한다. 이 스위트는 코딩, 데이터, 오피스, 보안, 운영, 도메인 문서 워크플로우에 걸친 100개의 태스크와 502개의 하위 문제를 포함하며, 여러 에이전트 런타임을 지원한다. 로컬 실행 환경에서 OpenClaw와 nanobot을 이용한 실험 결과, 직접 실행의 기준선 성능은 런타임에 크게 의존하는 것으로 나타났다: OpenClaw는 모든 모델에서 20% 미만을 유지하는 반면, nanobot은 56.45%에서 96.13% 범위를 보인다. 자체 작성 스킬은 혼재된 효과를 나타낸다. nanobot GPT-5.4는 모든 모드에서 96% 이상을 유지하고 MiniMax-M2.7은 PostSkill에서 90.97%에서 94.50%로 향상되지만, nanobot DeepSeek-V4-Pro는 PreSkill에서 77.77%에서 4.80%로, PostSkill에서는 0.99%로 급락한다. OpenClaw도 유사한 비단조적(non-monotonic) 동작을 보이며, 일부 스킬 실행은 기준선에 근접하는 반면 다른 것들은 성능이 붕괴된다. 이러한 결과는 에이전트 자신의 실행 이력으로부터 재사용 가능한 스킬을 학습하는 것이 에이전트 루프에 스킬 작성을 추가함으로써 자동적으로 얻어지는 이점이 아니라, 선택적이고 비용에 민감한 과정임을 나타낸다.
AI copilots can substantially boost human performance through shared control, but excessive assistance can induce over-reliance and skill atrophy. This paper studies how an embodied AI agent can act as a coach that accelerates human motor-skill development. We argue that effective coaching requires strategic scaffolding and stepping back that are aligned with the learner's capability, allowing productive failures that drive learning. We formalize the interactive AI coaching process as a non-cooperative dynamic game in which the learner optimizes task performance while the coach targets the learner's independent competence. Building on this formalism, we develop a reinforcement learning framework combining adaptive shared control with probabilistic models of the coach's causal influence on skill evolution, enabling tractable training of coaching policies. A comprehensive user study (N=33) on first-person-view drone racing shows significant gains in human learning outcomes over state-of-the-art AI coaching baselines.
컴퓨터 사용 에이전트(CUA)는 동적인 대화형 환경에 점점 더 배치되고 있으며, 상호작용 중 지속적인 스킬 학습에 대한 필요성이 커지고 있다. 최근 접근법들은 성공적인 궤적(trajectory)으로부터 재사용 가능한 스킬을 학습함으로써 이 과제를 해결한다. 그러나 이러한 스킬 학습 방법들은 대체로 정적이고 안전한 환경을 가정하여, 적대적 상호작용(예: 프롬프트 인젝션)과 환경 역학(예: 팝업)으로 인한 위험을 간과한다. 동적 환경에서는 이러한 가정이 위험한 스킬 학습과 취약한 실행으로 이어져 CUA의 신뢰성을 훼손할 수 있다. 이는 다음 질문을 제기한다: CUA가 동적 환경에서 스킬을 안전하게 학습하고 사용하려면 어떻게 해야 하는가? 이 문제를 해결하기 위해, 우리는 동적 환경에서 안전한 스킬 활용을 위한 프레임워크인 SkillHarness를 제안한다. SkillHarness는 스킬 학습과 활용을 안전성 제약 하의 상호작용 과정으로 모델링함으로써 정적 스킬 추상화를 넘어선다. 구체적으로, 우리는 다중 출처 감독 신호를 활용해 상호작용 궤적으로부터 안전한 스킬을 식별하는 스킬 경계(skill boundary)를 도입하고, 스킬 수명주기 전반에 걸쳐 자기 개선형 안전성 제약을 구성한다. 또한 SkillHarness는 선택적 스킬 재사용을 도입하는데, 여기서 과제는 맥락에 따라 분해되도록 유도되고 스킬 부분집합의 선택적 활성화를 통해 완료된다. 우리의 실험은 SkillHarness가 학습된 스킬의 불안전률을 57.1% 크게 낮추고, 동적 환경 변화 하에서 실행 안정성을 지속적으로 개선하여 기존 베이스라인을 능가함을 보여준다.
자가 진화 에이전트(self-evolving agents)는 배포 후 적응이 필요하지만, 기존 접근 방식은 선별된 스킬(curated skills), 성공적인 궤적(successful trajectories), 또는 검증기 신호(verifier signals)와 같은 사용 가능한 학습 루프를 가정합니다. 실제 오픈 월드 배포 환경에서는 이러한 요소들이 전혀 제공되지 않을 수 있으며, 오직 작업 프롬프트(task prompt)만 주어질 수 있습니다. 본 연구에서는 오픈 월드 자가 진화(open-world self-evolution)를 다룹니다. 이는 에이전트가 타겟 작업에 대한 감독 없이 오픈 월드 자원만을 활용하여 자신의 스킬과 검증 신호를 처음부터 구축해야 하는 상황입니다. 우리는 이 루프를 부트스트랩하는 OpenSkill 프레임워크를 제안합니다. OpenSkill은 문서, 저장소, 웹에서 그라운딩된 지식(grounded knowledge)과 검증 앵커(verification anchors)를 획득하여 이를 전이 가능한 스킬로 종합하고, 타겟 정답이 아닌 앵커에 기반한 자가 구축 가상 작업을 통해 해당 스킬을 정제합니다. 따라서 오픈 월드는 학습 대상 지식과 감독이 필요 없는 연습 환경을 모두 제공하며, 타겟 작업에 대한 감독은 최종 평가에만 사용됩니다. 세 가지 벤치마크와 두 가지 타겟 에이전트에 걸쳐, OpenSkill은 무감독 제약 조건을 충족하면서 최고의 자동화 통과율을 달성했습니다. 분석 결과에 따르면, OpenSkill의 스킬은 모델별 적응 없이 모델 간에 전이 가능하며, 자가 구축된 검증기는 실제 결과(ground-truth outcomes)에 접근한 적이 없음에도 불구하고 이와 정렬되는 것으로 나타났습니다.