PyTorchKR Papers

최신 논문

총 2편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2607.02850v1cs.LG

레이블 데이터 없는 메타학습: 사전학습 모델과 비레이블 데이터를 활용한 효율적인 태스크 생성

Labeled-Data-Free Meta-Learning: Efficient Task Generation Using Pre-trained Models and Unlabeled Data

레이블 데이터 없는 메타학습은 레이블 데이터셋 획득이 비용이 크거나 프라이버시 문제로 제한될 수 있는 실세계 응용에서 매우 중요하다. 데이터 없는 메타학습(DFML)은 학습 데이터에 접근하지 않고 사전학습 모델을 활용하여 이 문제를 해결한다. 그러나 기존 DFML 방법들은 학습 데이터를 생성하기 위해 모델 역변환(model inversion)에 의존하는데, 이는 원래 분포와 일치하는 고차원 데이터를 생성해야 하므로 일반적으로 어렵고 계산 비용이 크다. 이 한계를 해결하기 위해, 우리는 사전학습 모델과 비레이블 데이터를 함께 활용하여 모델 역변환을 피하는 새로운 메타학습 설정을 제안한다. 우리의 방법은 사전학습 모델로부터 비레이블 데이터에 소프트 레이블(soft label)을 할당하여 메타학습 태스크를 생성한다. 이러한 태스크의 품질이 다를 수 있으므로, 효과적인 메타학습을 보장하기 위해 태스크 신뢰도와 클래스 분포 균형에 기반한 태스크 가중치 메커니즘을 도입한다. 광범위한 실험을 통해 우리의 접근법이 계산 비용을 크게 줄이고 일반화 성능을 향상시킴을 입증한다. 최신 DFML 방법 대비 최대 104배의 속도 향상과 퓨샷 분류 정확도에서 8.4%에서 36.4%의 개선을 달성한다.

arXiv:2606.18284v1cs.LG

솔버 병목 현상 극복: 학습 가능한 프론티어에서의 태스크 생성기 학습

Breaking the Solver Bottleneck: Training Task Generators at the Learnable Frontier

솔버 롤아웃이 필요한 태스크 생성기 강화학습(RL)은 SWE처럼 평가 비용이 큰 영역에서 병목이 된다. PROPEL은 일회성 솔버 결과로 학습한 활성화 프로브(probe)가 목표 해결율을 대리해 생성기 평가를 단일 순전파로 줄이며, 수학·코드·SWE에서 학습 가능한 프론티어 태스크 비율을 약 두 배 가까이 높인다.