Bias-Aware Heapified Policy for Active Learning
원문 초록
The data efficiency of learning-based algorithms is more and more important since high-quality and clean data is expensive as well as hard to collect. In order to achieve high model performance with the least number of samples, active learning is a technique that queries the most important subset of data from the original dataset. In active learning domain, one of the mainstream research is the heuristic uncertainty-based method which is useful for the learning-based system. Recently, a few works propose to apply policy reinforcement learning (PRL) for querying important data. It seems more general than heuristic uncertainty-based method owing that PRL method depends on data feature which is reliable than human prior. However, there have two problems - sample inefficiency of policy learning and overconfidence, when applying PRL on active learning. To be more precise, sample inefficiency of policy learning occurs when sampling within a large action space, in the meanwhile, class imbalance can lead to the overconfidence. In this paper, we propose a bias-aware policy network called Heapified Active Learning (HAL), which prevents overconfidence, and improves sample efficiency of policy learning by heapified structure without ignoring global inforamtion(overview of the whole unlabeled set). In our experiment, HAL outperforms other baseline methods on MNIST dataset and duplicated MNIST. Last but not least, we investigate the generalization of the HAL policy learned on MNIST dataset by directly applying it on MNIST-M. We show that the agent can generalize and outperform directly-learned policy under constrained labeled sets.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
OnlineWM: 효과적인 월드 모델링을 위한 인과관계 인지 능동 온라인 학습
OnlineWM: Causality-Aware Active Online Learning for Effective World Modeling
생성형 월드 모델(Generative world models)은 행동을 조건으로 하여 미래 상태를 예측하는 것을 목표로 하며, 여기서 행동 제어 가능성(action controllability)은 신뢰할 수 있는 역학 모델링을 위한 기본 요소입니다. 최근 시뮬레이터가 생성한 데이터를 활용하여 이러한 역량을 향상하려는 시도들이 이루어지고 있으나, 기존 학습(training) 파이프라인은 두 가지 근본적인 한계에 직면해 있습니다. 첫째, 정적인 오프라인 데이터 수집은 학습 세트와 모델(model)의 진화하는 오류 패턴 간의 분포 불일치를 유발하여 역학 예측이 여전히 신뢰할 수 없는 중요한 롱테일(long-tail) 시나리오를 해결하지 못합니다. 둘째, 관측 불일치를 최소화하는 표준 목적 함수는 종종 모델이 기저의 행동-효과 인과관계를 포착하는 대신 허위 상관관계(spurious correlations)를 악용하도록 유도합니다. 이러한 한계를 해결하기 위해, 능동적인 시뮬레이터 상호작용과 인과관계 인지 최적화를 통해 월드 모델링을 지속적으로 개선하는 온라인 학습 프레임워크인 OnlineWM을 제안합니다. OnlineWM은 두 가지 핵심 혁신을 도입합니다: (1) 능동 온라인 학습(Active Online Learning): 고정된 데이터셋을 사용하는 대신, OnlineWM은 모델의 현재 예측 취약점을 목표로 하는 새로운 상호작용 시퀀스를 시뮬레이터에 적응적으로 질의하여 효용성이 높은 데이터 수집을 보장합니다. (2) 인과관계 인지 미세조정(Causality-Aware Fine-Tuning): 동일한 상태에서 서로 다른 행동의 결과를 대조하는 반사실적 학습(counterfactual learning) 전략을 제안하여, 모델이 상태 전이를 주변 환경 변화가 아닌 특정 행동의 결과로 귀인하도록 강제함으로써 예측을 신뢰할 수 있는 인과 메커니즘에 그라운딩(grounding)합니다. 능동적 데이터 수집과 인과적 최적화를 통합함으로써, OnlineWM은 모델이 다양한 시나리오에 대해 강건하고 인과적 귀인에서 정밀함을 모두 보장하는 폐루프 개선 프로세스를 확립합니다. 광범위한 실험을 통해 OnlineWM이 행동 제어 가능성을 크게 향상시키고 보지 못한 도메인으로도 효과적으로 일반화됨을 입증합니다.
데이터 선택 강화를 통한 능동적 퓨샷 분할
Active few-shot segmentation by reinforcing data selection
퓨샷 학습(few-shot learning)은 의료 이미지 분할 모델이 소수의 레이블이 붙은 예시만으로 새로운 태스크에 적응할 수 있게 한다. 그러나 적응 성능은 서포트 집합(support set)에 어떤 예시를 선택하느냐에 크게 좌우된다. 효과적인 서포트 집합은 대상 도메인 내 관련 변이를 포착하고 적응에 유용한 정보를 담아야 하며, 구성 샘플들이 상호 보완적인 정보를 제공해야 한다. 그럼에도 기존 능동적 데이터 선택 접근법은 대체로 샘플을 개별적으로 우선시하며 예시 간 상호작용을 명시적으로 고려하지 않는다. 본 연구에서는 퓨샷 의료 이미지 분할에서 서포트 집합 선택을 위한 강화학습 프레임워크를 제안하여, 독립적인 샘플 점수화가 아니라 서포트 집합을 공동으로 최적화할 수 있게 한다. 레이블이 없는 후보 이미지 풀(pool)이 주어지면, 에이전트는 하류 분할 성능을 최대화하는 서포트 집합을 직접 예측한다. 기관 간 교차 골반 MRI 데이터셋에서의 실험은 무작위 선택 및 현재 최첨단(state-of-the-art) 방법 대비 개선을 보여준다. 우리의 발견은 효과적인 적응을 위해 서포트 집합의 상호 보완성(complementarity)이 중요함을 강조하며, 적응 집합 최적화를 위한 강화학습의 잠재력을 보여준다.
Spatial-IQ: 계층적 능력 테스트를 통한 공간 지능 분해
Spatial-IQ: Deconstructing Spatial Intelligence via Hierarchical Capability Tests
다중모달 대규모 언어 모델(MLLM)은 시각 해석에는 뛰어나지만, 인간이 안정적으로 풀 수 있는 공간 추론 과제에서는 실패한다. 기존 벤치마크는 이러한 모델을 블랙박스로 평가하여 낮은 성능의 근본 원인을 식별하는 능력을 제한한다. 모델이 공간 추론 과제에서 실패할 때, 그 장애가 객체 경계 인식과 같은 지각(perceptual) 문제인지, 가려짐에 대해 추론하여 숨겨진 기하를 추론하는 것과 같은 인지(cognitive) 문제인지 판별하기 어렵다. 우리는 Spatial-IQ를 제안한다. 이는 쌓인 3D 구조에서의 객체 개수 세기를 인간 공간 인지의 발달 단계에 따라 구성된 9개의 지각·인지 하위 과제로 분해하는 계층적 진단 프레임워크이며, 정신 회전(mental rotation)을 추가 목표 프로브로 포함한다. NVIDIA Isaac Sim을 사용하여 과제별 ground truth를 갖춘 약 80,000개의 다양한 쌓인 3D 구조 데이터셋을 절차적으로 생성했다. 자유 응답 텍스트, 객관식 이미지, 이미지 편집의 세 가지 출력 형식과 인간 기준선을 함께 사용하여 모델을 평가한다. Spatial-IQ 프레임워크는 최고 성능 모델이 종종 목표 과제(객체 개수 세기)를 뒷받침하도록 의도된 하위 수준 하위 과제에는 성공하지 못한 채 목표 과제에서 성공하는 경우가 많으며, 모델마다 이러한 계층적 연쇄를 얼마나 유지하는지가 다르다는 것을 보여준다. 이는 목표 과제 정확도만으로는 드러나지 않을 지름길(shortcut) 행동을 종종 드러낸다. 마지막으로, 계층적 하위 과제에 대한 사고의 연쇄(Chain-of-Thought, CoT) 감독과 검증 가능 보상을 이용한 강화학습을 결합하여 모델을 학습하면, 하위 과제 간 공간적 일관성과 목표 과제 정확도가 모두 크게 향상됨을 보여준다. 이는 제안한 분해가 진단 도구이자 학습 신호 모두로서 가치 있음을 뒷받침한다.
VideoGen-Agent: 비디오 생성 에이전트 강화
VideoGen-Agent: Reinforcing Video Generation Agents
최근 비디오 생성 모델의 발전으로 고충실도이며 시간적으로 일관된 비디오 생성이 가능해졌다. 그러나 이러한 모델은 전문 지식, 특정 정체성, 물리적 일관성 또는 순서가 있는 사건을 요구하는 프롬프트를 충족하는 데 자주 어려움을 겪는다. 본 논문에서는 다중 과제 에이전트 강화학습을 통해 비디오 생성을 위한 외부 도구를 사용하도록 학습된 멀티모달 에이전트 VideoGen-Agent를 제시한다. 이 에이전트는 프롬프트와 중간 관측을 활용해 의사 결정을 이끌며, 다중 턴 상호작용을 통해 증강, 생성, 검증 도구를 조율한다. 우리는 여섯 가지 과제에 걸친 범주 균형 데이터셋으로 공유 정책을 학습한다. 교사 모델이 생성한 궤적에 대한 지도 미세 조정으로 도구 사용 행동을 확립한 뒤, 강화학습으로 이를 정제한다. 범주 인식 하이브리드 보상은 도구 호출의 유효성, 과제에 적합한 도구 사용, 생성된 비디오의 품질을 평가한다. 또한 절차적 지식, 단일 및 다중 개체 정체성 보존, 물리적 일관성, 장면 구성, 다중 샷 시간 구조를 포괄하는 600개 프롬프트의 홀드아웃 벤치마크 VABench를 도입한다. VABench에서 VideoGen-Agent는 기반 텍스트-비디오 생성기보다 19.1점 향상된 75.6점(56.5점에서 상승)을 기록한다. 생성 도구를 업그레이드하면 추가적인 에이전트 학습 없이도 점수가 86.1까지 더 오른다. 인간 평가자들은 비교의 84.3%에서 업그레이드된 구성을 가장 강력한 단독 기준선보다 선호하였다. 이러한 결과는 비디오 생성 과제 전반에 걸친 도구 사용 학습을 뒷받침하며, 학습된 에이전트가 이후 생성 도구의 발전으로부터 이익을 얻을 수 있음을 보여준다. 프로젝트 페이지: https://andyca111.github.io/VideoGen_Agent/
VIGOR: 모델 기반 강화학습에서 잠재 공간 일관성을 통한 제로샷 시각적 일반화
VIGOR: Zero-Shot Visual Generalization via Latent-Space Consistency in Model-Based Reinforcement Learning
실험실-매장 격차 해소: 소매 휴머노이드를 위한 데이터 효율적 사후 학습 및 경험 기반 학습 VLA 프레임워크
Closing the Lab-to-Store Gap: A Data-Efficient Post-Training and Experience-Driven Learning VLA Framework for Retail Humanoids
벤치마크 성능과 신뢰할 수 있는 실세계 운용 사이의 격차를 좁히는 것은 실행 오류, 분포 이동(distribution shift), 환경 변동성을 처리해야 하는 비전-언어-행동(VLA) 휴머노이드 로봇의 핵심 과제로 남아 있다. 본 논문은 DEED(Data-Efficient Post-Training and Experience-Driven Learning, 데이터 효율적 사후 학습 및 경험 기반 학습)를 제안하며, 이는 Unitree G1-Edu 휴머노이드 로봇과 GR00T N1.6 파운데이션 모델을 사용한 슈퍼마켓 과자 재입고 작업에서 평가된 시스템 수준 접근법이다. DEED는 세 가지 핵심 구성 요소로 이루어진다: (1) 제어 주파수 정렬, 데이터 큐레이션, 작업 관련 시각적 강조, VLA 의존도 감소를 포함하는 데이터 효율적 사후 학습 파이프라인; (2) 텍스트 기반 advantage 접두 문맥과 비전-언어 가치 함수를 통해 RECAP에서 적용한 경험 기반 정제의 실세계 연구; (3) 분포 내(in-distribution) 및 분포 외(out-of-distribution) 행동을 연구하기 위한 잠재 공간(latent-space) 분석 도구. 우리의 결과는 실험실-매장 격차를 메우는 것이 주로 아키텍처 문제가 아니라 시스템 통합 과제임을 시사한다. 신중한 데이터 설계와 표적화된 사후 학습은 단순 미세조정에서 실패하는 정책을 단일 GPU만으로 유능한 실세계 시스템으로 변환할 수 있다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.