많은 실제 응용 분야에서 심층 신경망(DNN)의 강건성(robustness)과 안정성을 확보하는 것은 필수적이며, 특히 다양한 입력 섭동을 마주하는 이미지 분류 작업에서 더욱 중요합니다. 이러한 섭동에 대한 학습 모델의 복원력을 높이기 위해 믹스업(Mixup) 기반 데이터 증강 기법이 널리 채택되어 왔으나, 본 연구의 실험 결과 손상 강건성과 캘리브레이션(calibration) 사이의 중요한 트레이드오프가 밝혀졌습니다. 즉, 더 강력한 Mixup 기반 증강은 손상된 데이터에 대한 강건성을 향상시킬 수 있지만 기대 캘리브레이션 오차(ECE)를 크게 증가시킵니다. 이러한 문제를 해결하기 위해, 본 논문에서는 바세르슈타인 분포 강건 최적화(W-DRO)를 다양한 Mixup 기반 데이터 증강 전략과 통합하여 이 트레이드오프를 완화하는 프레임워크인 DRO-Augment를 제안합니다. 제안하는 방법은 CIFAR-10, CIFAR-100, CIFAR-10-C, CIFAR-100-C 전반에서 손상 정확도를 대체로 보존하면서 강력한 Mixup 기반 증강 환경에서 ECE를 대폭 낮춥니다. 이론적 측면에서는 W-DRO 문제와 밀접하게 연관된 변분 정규화 손실 함수를 증강 데이터와 함께 사용하여 학습된 신경망에 대한 새로운 일반화 오차 한계를 규명합니다. 나아가 손상 강도의 불일치를 바로잡은 정제된 CIFAR-C 벤치마크를 도입하여 향후 강건성 연구를 위한 보다 신뢰할 수 있는 평가 기준을 제공합니다.
노이즈, 블러링, 색상 이동과 같은 다양한 유형의 이미지 손상에 대한 불변성은 컴퓨터 비전(CV)에서 강건한 모델을 구축하는 데 필수적이다. 데이터 증강은 일반적인 손상에 대한 강건성을 향상시키는 주요 접근법이었다. 그러나 널리 사용되는 증강 전략이 생성하는 샘플은 기저 데이터 매니폴드에서 크게 벗어난다. 그 결과, 성능이 특정 유형의 손상에 편향된다. 이 문제를 해결하기 위해, 우리는 다양한 매니폴드 상 샘플을 생성하기 위한 다중 소스 인근 전이 증강(VITA) 방법을 제안한다. 제안하는 VITA는 접선 전이(tangent transfer)와 다중 소스 인근 샘플의 통합이라는 두 가지 상호 보완적인 부분으로 구성된다. 접선 전이는 손상 강건성 향상을 위한 초기 증강 샘플을 생성한다. 통합 단계는 인근 샘플이 구축한 기저 매니폴드를 특성화하기 위해 생성 모델을 사용하여, 매니폴드 상 샘플 생성을 용이하게 한다. 제안하는 VITA는 손상 벤치마크에 대한 광범위한 실험에서 입증된 바와 같이, 현재의 최신 증강 방법들을 크게 능가한다. 코드: https://github.com/MinghuiChen43/VITA.
비전-언어 모델(VLM)이 시각적 손상(visual corruption)에 노출될 때 top-1 정확도만으로는 포착되지 않는 예측 구조 변화를 진단하기 위해, 19가지 손상 유형과 5단계 심각도를 적용한 통제된 테스트베드 Bench-C와 신뢰도-정확도 정렬을 측정하는 강건성 정렬 점수(RAS)를 제안한다. 13개 VLM 실험 결과, 경미한 손상이 top-1 정확도를 오히려 향상시키면서도 예측 분포 구조를 저하시키는 역설적 패턴이 확인되었다.
심층 학습(DL)은 의료 이미지 분류에서 강력한 성능을 보여왔으나, 예측 오류가 심각한 결과를 초래할 수 있는 안전 필수 임상 환경에서의 신뢰할 수 있는 배포는 여전히 어려운 과제이다. 기존 연구들은 주로 최악의 경우 관점에서 적대적 강건성(AR)에 초점을 맞추고 있으나, 이러한 설정은 실제 의료 응용을 충분히 반영하지 못할 수 있다. 본 연구에서는 모델 신뢰성의 보다 실용적인 측도로서 확률적 강건성(PR)을 조사한다. 이를 위해 의료 이미지 분류를 위한 자연 손상(natural corruption) 설정 집합을 구성하고, MedMNIST v2 데이터셋에서 일반적으로 사용되는 DL 모델을 체계적으로 평가한다. 본 연구는 DL 모델의 신뢰성 평가에 대한 통계적으로 근거 있는 관점을 제공함으로써, 의료 영상 응용에서 보다 신뢰할 수 있는 배포를 지원한다.
We study data corruption robustness for reinforcement learning with human feedback (RLHF) in an offline setting. Given an offline dataset of pairs of trajectories along with feedback about human preferences, an $\varepsilon$-fraction of the pairs is corrupted (e.g., feedback flipped or trajectory features manipulated), capturing an adversarial attack or noisy human preferences. We aim to design algorithms that identify a near-optimal policy from the corrupted data, with provable guarantees. Existing theoretical works have separately studied the settings of corruption robust RL (learning from scalar rewards directly under corruption) and offline RLHF (learning from human feedback without corruption); however, they are inapplicable to our problem of dealing with corrupted data in offline RLHF setting. To this end, we design novel corruption robust offline RLHF methods under various assumptions on the coverage of the data-generating distributions. At a high level, our methodology robustifies an offline RLHF framework by first learning a reward model along with confidence sets and then learning a pessimistic optimal policy over the confidence set. Our key insight is that learning optimal policy can be done by leveraging an offline corruption-robust RL oracle in different ways (e.g., zero-order oracle or first-order oracle), depending on the data coverage assumptions. To our knowledge, ours is the first work that provides provable corruption robust offline RLHF methods.