PyTorchKR Papers

최신 논문

총 4편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2603.27270v2cs.AI

크레덜 불확실성의 정량화: 거리 기반 접근법

Quantification of Credal Uncertainty: A Distance-Based Approach

크레덜 집합(credal sets), 즉 확률 측도의 닫힌 볼록 집합은 머신러닝에서 우연적(aleatoric) 및 인식론적(epistemic) 불확실성을 표현하는 자연스러운 틀을 제공한다. 그러나 주어진 크레덜 집합에 대해, 특히 다중 클래스 분류에서 이러한 두 유형의 불확실성을 어떻게 정량화할지는 아직 충분히 탐구되지 않았다. 본 논문에서는 크레덜 집합에 대한 전체, 우연적, 인식론적 불확실성을 정량화하기 위한 거리 기반 접근법을 제안한다. 구체적으로, 적분 확률度量(Integral Probability Metrics, IPM) 틀 내에서 이러한 측도의 한 계열을 도입한다. 그 결과로 얻어지는 양들은 명확한 의미론적 해석을 제공하며, 자연스러운 이론적 요건을 만족하고, IPM의 일반적인 선택에 대해 계산적으로 다루기 쉽다. 우리는 전체 변이 거리(total variation distance)로 이 틀을 구체화하여 다중 클래스 분류를 위한 단순하고 효율적인 불확실성 측도를 얻는다. 이진 분류의 경우, 이 선택은 기존에 확립된 불확실성 측도를 복원하며, 그에 대한 원칙적인 다중 클래스 일반화는 지금까지 부재했다. 실험 결과는 낮은 계산 비용으로 유리한 성능을 보이며 실용적 유용성을 확인한다.

arXiv:2603.05175v2cs.LG

Incentive Aware AI Regulations: A Credal Characterisation

The rapid proliferation of AI applications has intensified debate on effective regulation of these black-box services. Effective regulation must balance two competing goals: (1) deterring non-compliant providers from entering the market, while (2) retaining compliant ones. We call this ideal the perfect market outcome (PMO). Regulators face two compounding obstacles that make PMO difficult to achieve: providers hold private information and can act strategically to evade compliance, while any evidence drawn or derived from a finite sample carries statistical uncertainty in proving non-compliance. As this information asymmetry and statistical uncertainty is inherent to any effective regulation, we formalise them through a mechanism design framework that explicitly accounts for such statistical uncertainty. This yields a sharp characterisation: a mechanism achieves PMO if and only if the set of non-compliant evidence distributions forms a closed, convex set of probability measures, known in imprecise probability as a credal set. This result serves as a diagnostic tool to determine whether PMO is achievable under a given regulation. We further show that PMO-achieving mechanisms can be constructed from a collection of hypothesis tests, and validate our theoretical contributions through experiments on spurious-feature and fairness-based regulations.

arXiv:2606.26418v1cs.AI

격자 이론을 통한 편향 없는 정규 집합값 오라클

Unbiased Canonical Set-Valued Oracles Via Lattice Theory

미래 사건 확률을 추정하는 비에이전트 오라클 AI는 답이 알려지면 그 확률 자체가 바뀌는 자기참조 문제에 직면하며, 반사실적 질문은 학습 직후 전제가 깨져 실용성이 떨어진다. 이에 단일 확률 대신 편향 없고 자기일관적인 credal set(믿음 집합)을 보고하고, 닫힌 credal set의 완비 격자 위 Knaster–Tarski 고정점 정리로 정규적·비자명한 답을 고정하며, 이항 사건에서는 자연스러운 가정 하 정규 답이 구간이 됨을 증명한다.

arXiv:2602.08470v3cs.LG

분포 강건 최적화를 통한 Credal 앙상블 학습

Learning Credal Ensembles via Distributionally Robust Optimization

Credal 예측기는 인식론적 불확실성(epistemic uncertainty)을 인식하고 확률적 예측의 볼록 집합(convex set)을 생성하는 모델입니다. 이들은 예측 인식론적 불확실성(EU)을 정량화하는 원칙적인 방법을 제공하며, 다양한 설정에서 모델 강건성(robustness)을 향상시키는 것으로 나타났습니다. 그러나 대부분의 최신 방법들은 주로 EU를 무작위 학습 초기화(random training initializations)로 인한 불일치(disagreement)로 정의하며, 이는 더 깊은 원인에서 비롯된 불확실성보다는 최적화 무작위성(optimization randomness)에 대한 민감도를 주로 반영합니다. 이를 해결하기 위해, 우리는 학습 데이터와 테스트 데이터 간의 독립 동일 분포(i.i.d.) 가정을 다양하게 완화(relaxations)하여 학습된 모델들 간의 불일치로 EU를 정의합니다. 이 아이디어를 바탕으로, 우리는 분포 강건 최적화(distributionally robust optimization)를 통해 타당한 모델들의 앙상블(ensemble)을 학습하는 CreDRO를 제안합니다. 그 결과, CreDRO는 학습 무작위성뿐만 아니라 학습 데이터와 테스트 데이터 간의 잠재적인 분포 변이(distribution shifts)로 인한 의미 있는 불일치에서도 EU를 포착합니다. 실험 결과, CreDRO는 여러 벤치마크(benchmarks)에 걸친 분포 외(out-of-distribution) 탐지 및 의료 응용 분야의 선택적 분류(classification)와 같은 작업에서 기존 Credal 방법들을 지속적으로 능가하는 것으로 나타났습니다.