PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2606.31551v1cs.CL

AutoTrainess: 언어 모델이 언어 모델을 자율적으로 개선하도록 가르치기

AutoTrainess: Teaching Language Models to Improve Language Models Autonomously

언어 모델(LM) 학습은 프론티어 언어 모델 에이전트가 소프트웨어 엔지니어링 및 기타 장기 과제에서 점점 더 높은 역량을 발휘하고 있음에도 불구하고, 여전히 사람의 집중적인 개입을 요구하는 과정이다. 핵심 과제는 자율적인 사후 학습이 단순한 코딩 문제가 아니라는 점이다. 에이전트가 반복적으로 이터레이션을 계획하고, 벤치마크에 정렬된 데이터를 구성하며, 안정적인 학습 작업을 실행하고, 체크포인트를 평가하고, 수 시간에 걸친 상호작용 전반에 걸쳐 실험 상태를 유지해야 한다. 우리는 AutoTrainess를 제시한다. 이는 계획, 데이터 준비, 학습, 평가, 로깅을 위한 에이전트-컴퓨터 인터페이스 저장소로서 이러한 작업들을 노출하는 언어 모델 에이전트이다. AutoTrainess는 에이전트가 명세가 불충분한 행동 공간을 가진 원시 CLI 환경에서 동작하도록 방치하는 대신, 이전의 인간 경험을 명시적인 워크플로우, 규칙, 실행 제약으로 외재화하여 에이전트가 효과적이고 신뢰할 수 있는 학습 행동을 수행하도록 안내한다. PostTrainBench에서 AutoTrainess는 CLI 전용 기준선을 지속적으로 능가하며, GPT-5.4(Codex)로 26.94의 평균 점수를 달성한 반면 CLI 전용은 23.21에 그쳤다. 또한 모델과 하네스 전반에 걸쳐 일반화되어, DeepSeek-V4-Flash(OpenCode)의 성능을 12.13에서 19.58로 향상시켰다.