PyTorchKR Papers

최신 논문

총 2편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2606.31435v1cs.AI

CDR-Bench: Evaluating Faithful Execution of Compositional, Order-Sensitive Data Refinement Recipes

CDR-Bench는 대규모 언어 모델(LLM)이 다단계 데이터 정제 레시피를 순서에 맞게 충실히 실행할 수 있는지 평가하는 벤치마크로, 4개 도메인과 29개 연산자를 아우르는 3,462개의 태스크로 구성된다. 10개 이상의 최신 LLM 실험 결과, 순서 민감 레시피에서 성공률이 5% 미만으로 급격히 붕괴되는 등 현재 모델들이 조합적·순서 의존적 데이터 정제에 필요한 절차적 충실성을 결여하고 있음을 보였다.

arXiv:2606.21337v1cs.LG

DataClaw0: 원시 스트림으로부터 에이전트적 멀티모달 데이터 맞춤화

DataClaw0: Agentic Tailoring Multimodal Data from Raw Streams

대규모 비구조화 멀티모달 스트림은 높은 "데이터 엔트로피(data entropy)"로 인해 효율적인 인간의 지식 습득과 고품질 AI 사후 학습 모두를 저해한다. 휴리스틱 규칙이나 일반 VLM(vision-language model)에 크게 의존하는 기존의 수동적 주석 패러다임은 비용이 많이 들고 단조로우며, 원시 데이터에 내재된 깊은 절차적 논리를 끌어내는 데 실패한다. 우리는 데이터 처리를 학습 가능한 역량으로 격상시키고, 다양한 사용자 및 하류 의도에 맞게 데이터를 능동적으로 정제하고 구조화하는 에이전트 기반 데이터 맞춤화(Agentic Data Tailoring)로의 패러다임 전환을 제안한다. 이러한 고차원 역량을 학습할 때의 데이터 부족 병목을 극복하기 위해, 결정론적 사실 앵커(Factual Anchors)에 생성적 의미 합성(generative semantic synthesis)을 기반으로 하는 2단계 파이프라인을 설계하여, 5개 핵심 물리 및 디지털 도메인에 걸친 대규모 데이터셋을 구축했다. 이를 바탕으로 $\text{DataClaw}_0$-9B 모델은 지도 미세조정(SFT)과 그룹 상대 정책 최적화(GRPO)를 시너지적으로 결합하여, 복잡한 정제 및 맞춤화 의도와의 견고한 정렬(alignment)을 달성한다. 이 역량을 체계적으로 정량화하기 위해, 데이터 정제에 특화된 최초의 벤치마크인 $\text{DataClaw}_0$-val을 구축했다. 결정적으로, 우리는 하류 사후 학습을 최종 검증의 기준으로 채택한다. 영상 생성, 실세계 VQA, GUI 내비게이션에 대한 평가는 $\text{DataClaw}_0$가 고정보 밀도의 맞춤형 데이터를 제공하여, 제한된 학습 데이터 환경에서 새로운 과제에 대한 효율적인 모델 적응을 촉진함을 확인한다. 프로젝트 페이지: https://czjdsg.github.io/MakeAnyData