Analyzing Data Selection Techniques with Tools from the Theory of Information Losses
원문 초록
In this paper, we present and illustrate some new tools for rigorously analyzing training data selection methods. These tools focus on the information theoretic losses that occur when sampling data. We use this framework to prove that two methods, Facility Location Selection and Transductive Experimental Design, reduce these losses. These are meant to act as generalizable theoretical examples of applying the field of Information Theoretic Deep Learning Theory to the fields of data selection and active learning. Both analyses yield insight into their respective methods and increase their interpretability. In the case of Transductive Experimental Design, the provided analysis greatly increases the method's scope as well.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
ALINE: Joint Amortization for Bayesian Inference and Active Data Acquisition
Action-BED: 단일 intractable 목적을 갖는 태스크 기반 베이지안 실험 설계(BED)
Action-BED: Task-Driven Bayesian Experimental Design with Singly Intractable Objectives
베이지안 실험 설계(BED)는 전통적으로 사전(prior)에서 사후(posterior)로의 기대 불확실성 감소를 최대화하는 것에 기반해 왔다. 이 접근법의 주요 한계는 이중 intractable 목적함수로 이어져 최적화가 어렵다는 점이며, 관심 있는 특정 다운스트림 태스크에 맞게 맞춤화하는 것도 역시 어렵다. 1원칙 의사결정 이론에 따라, 우리는 BED를 다운스트림 행동(downstream actions)에 대한 기대 미래 손실(expected future loss, EFL)로 대안적으로 표현할 수 있음을 보인다. 이는 단순하고 자연스럽게 태스크 기반 프레임워크를 제공한다. 핵심적으로, 우리는 이러한 모든 EFL이 단일 intractable 목적함수로 재배치될 수 있으며, 확률적 그래디언트(stochastic gradients)를 사용해 설계 정책(design policy)과 다운스트림 행동 정책(downstream action policy) 모두에 대해 공동 최적화될 수 있음을 보인다. 우리는 이 접근법을 ACTION-BED라고 부른다. 이 공식화는 명시적인 사후(posterior) 또는 주변 가능도(marginal likelihood) 추정의 필요성을 추가로 우회하며, 자연스럽게 암시적(implicit) 방식으로, 모델 파라미터와 데이터에 대한 결합 모델(joint model)에서 샘플링하고 다운스트림 손실 함수를 평가하는 능력만 필요로 한다. 따라서 이는 기존 방법보다 더 효과적이고, 효율적이며, 간단하게 설계 정책을 학습할 수 있게 하면서, 서로 다른 다운스트림 태스크와 손실에 대한 쉬운 맞춤화를 제공한다.
멤버십 쿼리를 활용한 능동 학습의 샘플 복잡도에 관하여
On the Sample Complexity of Active Learning with Membership Queries
본 연구는 능동 학습(active learning)의 근본적인 질문, 즉 임의의 쿼리를 합성할 수 있는 능력이 얼마나 강력한가라는 문제를 다시 살펴본다. 학습자가 주어진 레이블 없는 풀(pool)에서만 쿼리를 선택하는 풀 기반 능동 학습과 비교할 때, 쿼리 능력에서의 이처럼 사소해 보이는 변화가 통계적 학습의 난이도를 극적으로 바꿀 수 있음을 발견하였다. 특히 풀 기반 설정에서는 본질적으로 학습이 느려 샘플 수에 대해 다항식 수준의 오차 감소만을 달성하는 일부 가설 클래스(hypothesis class)가, 합성된 쿼리가 허용되면 지수적으로 학습 가능해진다. 이러한 두드러진 격차는 멤버십 쿼리 합성(membership query synthesis)이 근본적으로 다른 학습 방식을 유도하며, 이는 기존 능동 학습 이론으로는 충분히 설명되지 않아 그 복잡도를 규명하기 위한 새로운 분석 도구가 필요함을 시사한다. 이러한 현상에 착안하여, 본 연구는 몇 가지 충분 조건을 개발하고 흥미로운 예시들을 제시하며, 어떤 가설 클래스가 합성된 쿼리를 통해 효율적인 학습을 허용하는지 이해하기 위한 추측적 관점을 제안한다.
고정 예산 하에서 검증을 포함한 다중 지표 적응형 실험 설계
Multi-Metric Adaptive Experimental Design Under a Fixed Budget with Validation
온라인 실험에서의 A/B 테스트는 여러 후보를 동시에 테스트할 때 통계적 검정력 문제에 직면하며, 적응형 실험 설계(AED)만으로는 특히 다수의 지표(예: 수익, 안전성)와 이질적 분산이 존재하는 경우 평균 처리 효과(average treatment effect)와 같은 실험 통계량 추론에 한계가 있다. 본 논문은 두 단계 구조를 갖는 고정 예산 다중 지표 AED 프레임워크를 제안한다: 최적 처리를 식별하기 위한 적응형 탐험(exploration) 단계와, 처리의 품질을 검증하고 통계량을 추론하기 위한 A/B 테스트 기반의 검증(validation) 단계. 우리는 SHRVar를 제안하는데, 이는 순차적 이분법(SH)을 새로운 상대 분산 기반 샘플링과 보상(reward) z값에 기반한 제거 전략으로 일반화한 방법이다. SHRVar는 지수적으로 감소하는 증명 가능한 오류 확률을 달성하며, 여기서 지수 H3는 각각 동질적 및 이질적 분산에 대한 SH와 SHVar의 복잡도 측도를 일반화한다. 수치 실험을 통해 그 성능과 견고성을 입증한다.
스코어 매칭을 통한 베이지안 실험 설계
Bayesian Experimental Design via Score Matching
베이지안 실험 설계(BED)에 대한 정책 기반 접근법은 이전에 수집된 데이터를 바탕으로 지능적인 설계 결정을 적응적으로 내리는 심층 정책 네트워크의 학습을 가능하게 한다. 그러나 이러한 정책의 학습은 기대 정보 이득(EIG)의 이중 난해성(double intractability)이라는 근본적인 문제로 인해 제약을 받는 경우가 많다. 이로 인해 정책 자체의 최적화에 투자할 수 있는 노력을 제한하는, 비용이 크거나 복잡한 근사 방법이 요구된다. 이를 해결하기 위해, 우리는 EIG의 이중 난해성을 정책 학습으로부터 분리할 수 있음을 보인다. 구체적으로, 사용되는 정책에 독립적인 스코어 매칭 문제를 먼저 풀고, 학습된 스코어 근사를 활용하여 단일 난해한(singly intractable) 방식으로 정책을 학습한다. 이를 통해 핵심적인 곱셈적 비용이 덧셈적 비용으로 전환되고, 정책 학습 자체의 계산 부담이 경감되어, 아키텍처 탐색, 하이퍼파라미터 튜닝, 또는 지역 최적해 회피 등 정책을 여러 번 학습해야 하는 경우에 훨씬 저렴하게 학습할 수 있다. 실험에서는 가능도 평가에서 곱셈적 비용을 유발하지 않고 여러 경쟁력 있는 정책을 학습하였으며, 하이퍼파라미터 또는 아키텍처 탐색 없이도 최적의 정책을 선택할 수 있어 성능을 향상시킬 수 있음을 보였다.
적대적 불확실성 하에서의 강건한 베이즈 의사결정
Robust Bayesian Decision Making under Adversarial Uncertainty
과학적 실험은 흔히 정보 획득을 최대화하도록 설계되지만, 많은 응용에서 주된 목적은 신뢰할 수 있는 하위 의사결정을 지원하는 것이다. 기존의 의사결정 인식 실험 설계(decision-aware experimental design) 및 능동 학습(active learning) 방법들은 대개 결과 모델이 올바르게 명세되어 있다고 가정하며, 실세계 교란 하에서 최적 결정의 안정성에 암묵적으로 의존한다. 그러나 실제로는 실험 결과가 숨겨지거나 약하게 모델링된 효과에 의해 빈번히 영향을 받으며, 이는 결정 최적성을 크게 변화시키고 오도적인 결론으로 이어질 수 있다. 우리는 순차적 적대적 강건 의사결정 인식 실험 설계를 연구하며, 여기서 데이터 수집은 적대적 변수의 변동으로 모델링된 그럴듯한 최악 상황의 예상치 못한 효과에 대한 정보 획득을 고려해야 한다. 베이즈 결정 이론에 기반하여, 우리는 이 설정 하에서 적대적 강건 최적 결정을 형식화하고 원칙적인 베이즈 실험 설계 기준을 도출한다. 이 기준은 명목 최적성보다 결정 안정성을 명시적으로 목표로 삼는다. 합성 및 실세계 과학 데이터셋에 대한 실험에서, 기존의 의사결정 인식 설계는 높은 신뢰도이지만 취약한 결정으로 빠르게 수렴할 수 있는 반면, 우리의 강건성 인식 접근법은 적대적 변동 하에서 현저히 더 안정적이고 신뢰할 수 있는 결정을 산출함을 보인다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.