PyTorchKR Papers

최신 논문

총 1편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2609.25047v1cs.CL

AIBuildAI-2.5: LLM 유도 트리 탐색을 통한 효율적인 자율 AI 모델 개발

AIBuildAI-2.5: Efficient Autonomous AI Model Development Through LLM-Guided Tree Search

인공지능(AI) 모델을 자동으로 구축하는 자율 에이전트(agent)는 과학 및 공학 전반에서 AI에 대한 접근성을 넓힐 수 있습니다. 이러한 계열의 대표적인 에이전트들은 모델 구축을 코드 탐색 문제로 정의하고 이를 트리 탐색으로 해결합니다. 이 방식에서 각 노드(node)는 후보 프로그램이며 부모로부터 자식 프로그램을 생성하면서 트리가 확장되고, 이제 이러한 에이전트들은 현실적인 벤치마크(benchmark)에서 숙련된 AI 엔지니어의 능력에 근접하고 있습니다. 그러나 이러한 에이전트들은 아직 완전히 해결되지 않은 세 가지 효율성 측면의 약점을 지니고 있습니다. 첫째, 현실적인 예산 내에서는 적은 수의 후보만 실행할 수 있으므로, 몬테카를로 방식의 트리 탐색과 같이 실행된 보상으로 노드의 순위를 매기는 탐색 규칙은 소수의 노이즈가 있는 점수에 의존하게 되어 탐색할 다음 노드를 덜 효과적으로 선택하게 됩니다. 둘째, 학습(training) 작업을 스케줄링하는 데 자원 인식(resource-aware) 전략이 사용되지 않아 하드웨어 활용도와 학습 효율성이 떨어질 수 있습니다. 셋째, 모든 에이전트 호출이 단일 고성능 모델에 의해 처리되어 추론(inference) 비용이 증가합니다. 본 연구에서는 대규모 언어 모델(LLM) 에이전트로 트리 탐색을 수행하고 앞서 언급한 세 가지 문제를 각각 해결하는 에이전틱 시스템인 AIBuildAI-2.5를 소개합니다. AIBuildAI-2.5는 새로운 LLM 유도 트리 탐색을 제안하며, 여기서 평가자(judge)는 예상 개선도, 그라운딩(grounding), 실현 가능성을 기준으로 각 후보를 평가하고, 선택기(selector)는 이러한 점수와 탐색 상태를 바탕으로 후보 풀의 순위를 결정합니다. 또한 AIBuildAI-2.5는 현재 하드웨어 자원 상태를 고려하여 학습 작업을 실행하는 스케줄러와, 덜 까다로운 작업에는 더 저렴한 LLM을 할당하면서 가장 까다로운 하위 작업에는 가장 유능한 LLM을 배치하는 라우터로 구성되어 있습니다. AIBuildAI-2.5는 MLE-Bench에서 73.3%의 메달 획득률로 1위를 기록했으며, AIRS-Bench의 6개 자율 AI 연구 과제에서 강력한 기준선(baseline)을 능가했습니다.