arXiv:2611.24651v1 cs.CL

Piccolo: 재귀적 자기 개선을 통한 의사결정 모델과 데이터의 공진화

Piccolo: Co-Evolving Decision Models and Data through Recursive Self-Improvement

Zhenqing Ling, Qirui Jiao, Daoyuan Chen, Cheng Chen, Xinji Mai, Haowen Gao, Zhuo Zhang, Xuchen Pan, Mengsu Ding, Jiaji Deng, Yuexiang Xie, Xiaoming Qin, Weirui Kuang, Zhaoyang Liu, Yaliang Li 외 2명

제출 2026-11-19

한국어 초록

본 논문에서는 에이전틱 데이터 엔지니어링과 재귀적 자기 개선(RSI)을 통해 모델 능력과 학습 데이터를 함께 진화시키는 멀티모달 의사결정 모델군 Piccolo(0.8B~27B)를 제시한다. 이 모델들은 범용 텍스트 및 시각 판단, 에이전트 하니스, 데이터 워크플로, 상호작용 게임에 대해 후보 답변들의 확률을 예측한다. Piccolo-27B는 Decision Index Vision Full 리더보드에서 75.59점으로 1위를 차지하였고, Piccolo-9B와 Piccolo-4B는 각각 68.35점과 67.46점을 기록하였다. 세 모델 모두 각자의 모델 크기 범주에서 Private 벤치마크 1위를 차지하였다. 연구 에이전트는 모델 행동을 분석하고, 학습 데이터를 구성하며, 실험을 수행하고, 그 결과를 사용해 이후 제안을 개선한다. 의미적 슬라이스와 공유 연구 메모리는 모델군의 개발 전반에 걸쳐 이러한 행동들을 연결한다. 학습 레시피는 수십만 개의 예시로 구성되므로, 데이터 선택과 피드백 기반 개선이 자기 개선 과정의 핵심이다. 우리의 대규모 RSI 탐색은 의사결정 모델 개발에 대한 직관에 반하는 세 가지 통찰을 제공한다. (1) 백본-레시피 공동 적응이 원시 모델의 최신성보다 중요하다. 동일한 레시피에서 이전 백본이 시각 과제에서 더 최신 세대를 능가할 수 있다. (2) 표적 데이터 큐레이션을 통해 4B-9B 모델이 특화된 워크플로에서 27B 기준선에 필적할 수 있다. (3) 연속적인 손실 감소는 이산적인 의사결정 정확도와 분리될 수 있으며 심지어 이를 저하시킬 수도 있다. 공개된 가중치 및 Data-Juicer와 AgentScope 생태계의 도구와 함께, Piccolo는 최전선 의사결정 모델을 구축하고 데이터 기반 RSI를 확장하기 위한 실행 가능한 청사진을 제공한다.

원문 초록

We present Piccolo, a family of multimodal decision models (0.8B to 27B) that coevolves model capabilities and training data via Agentic Data Engineering and recursive self-improvement (RSI). The models predict probabilities over candidate answers for general-purpose text and visual judgments, agent harnesses, data workflows, and interactive games. Piccolo-27B tops the Decision Index Vision Full leaderboard with a score of 75.59, while Piccolo-9B and Piccolo-4B achieve 68.35 and 67.46, respectively. All three rank first on the Private benchmark in their respective model-size categories. Research agents analyze model behavior, construct training data, conduct experiments, and use the results to refine subsequent proposals. Semantic slices and a shared research memory connect these actions across the model family's development. With training recipes comprising hundreds of thousands of examples, data selection and feedback-driven refinement are central to the self-improvement process. Our large-scale RSI exploration yields three counter-intuitive insights for decision-model development: (1) Backbone-recipe co-adaptation outweighs raw model recency: earlier backbones can surpass newer generations on visual tasks under identical recipes; (2) Targeted data curation enables 4B-9B models to rival 27B baselines on specialized workflows; and (3) Continuous loss reduction can decouple from and even degrade discrete decision accuracy. Together with the released weights and tools from the Data-Juicer and AgentScope ecosystems, Piccolo provides an actionable blueprint for building frontier decision models and scaling data-driven RSI.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2611.24651v1제출 시각 미확인

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

공통 태그로 연결된 공개 논문이 아직 없습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.