PyTorchKR Papers

최신 논문

총 3편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2609.27913v1cs.LG

상충하는 전문가 의견의 신뢰 가능한 융합

Reliable Fusion of Conflicting Experts

우리는 입력마다 전문가 신뢰도가 달라지는, 노이즈가 있고 충돌이 잦은 환경에서 여러 블랙박스 전문가의 의견을 집계하는 문제를 연구한다. 다수결 투표와 같은 정적 집계 방법은 이러한 가변성을 포착하지 못하며, 의견이 불일치할 때 종종 신뢰할 수 없는 결과를 낳는다. 우리는 문맥별 신뢰도 추정을 사용해 전문가 응답을 동적으로 결합하는, 다루기 쉬운 확률적 회로(probabilistic circuit) 기반 융합 프레임워크를 제안하여 원칙적이고 신뢰 가능한 추론을 가능하게 한다. 이 프레임워크는 하위 전문가의 종류에 구애받지 않으며, 내부 표현에 대한 접근이나 재학습을 요구하지 않는다. 우리는 여러 대규모 언어 모델(LLM)을 전문가로 사용하는 객관식 질의응답 과제에서 접근법을 실증적으로 검증하고, 개별 모델 및 정적 앙상블 베이스라인과 비교한다. 우리 방법은 예측 성능을 일관되게 향상시키고 충돌 상황에서 더 신뢰할 수 있는 결정을 내리며, 견고한 다중 전문가 융합을 위한 문맥 인식 신뢰도 모델링의 효과를 보여준다.

arXiv:2607.07671v2cs.LG

PeTeR: 확률 회로의 사후 학습 강건화

PeTeR: Post-Training Robustification of Probabilistic Circuits

확률 회로(Probabilistic Circuit, PC)는 복잡한 결합 분포를 모델링하면서 다양한 추론 질의에 대한 정확하고 효율적인 계산을 지원할 수 있다. 그러나 표준 가능도 기반 PC 학습은 데이터 노이즈, 소규모 샘플 크기, 또는 분포 변화에 직면할 때 과적합에 취약하고 일반화가 불안정하다. 이는 경험적 분포의 Wasserstein 볼 내 최악의 분포를 고려하는 분포적 강건 최적화(distributionally-robust optimization)를 통해 완화될 수 있으나, 현재 방법들은 이 프레임워크에서 처음부터 모델을 학습하는 방식으로 제한된다. 이에 우리는 PeTeR를 제안한다: 처음부터 재학습하지 않고도 사전 학습된 PC를 분포 변화에 대해 강건화하도록 설계된 새로운 데이터 불필요 사후 학습 프레임워크이다. 여러 밀도 추정 벤치마크에 걸친 실험적 평가는 PeTeR가 무작위 및 적대적 섭동 모두에 대해 기준선 모델들을 효과적으로 강건화하며, 데이터 의존적 강건 학습 기준선들과 동등하거나 우월한 성능을 달성함을 입증한다.

arXiv:2603.26629v2cs.LG

조건부 확률 회로 기반 맥락 특화 신뢰도 인식 멀티모달 융합

Context-specific Credibility-aware Multimodal Fusion with Conditional Probabilistic Circuits

멀티모달 융합은 맥락에 따라 서로 충돌할 수 있는 여러 소스의 정보를 통합해야 한다. 기존 융합 접근법은 일반적으로 소스 신뢰성에 대한 정적 가정에 의존하여, 센서 성능 저하나 클래스별 오염(class-specific corruption)과 같은 상황적 요인으로 인해 어떤 모달리티가 신뢰할 수 없게 될 때 충돌을 해결하는 능력이 제한된다. 본 논문은 조건부 확률 회로(Conditional Probabilistic Circuit, CPC)를 사용하여 인스턴스별 소스 신뢰성을 모델링하는 맥락 특화 신뢰도 인식 멀티모달 융합 프레임워크인 C$^2$MF를 제안한다. 인스턴스 수준 신뢰성을 맥락 특화 정보 신뢰도(Context-Specific Information Credibility, CSIC)로 형식화하며, CSIC는 CPC로부터 정확히 계산되는 KL 발산(KL-divergence) 기반 척도이다. CSIC는 기존의 정적 신뢰도 추정을 특수한 경우로 일반화하여 원칙적이고 적응적인 신뢰성 평가를 가능하게 한다. 교차 모달 충돌 하에서의 견고성을 평가하기 위해, 클래스별 오염이 의도적으로 서로 다른 모달리티 간 불일치를 유발하는 Conflict 벤치마크를 제안한다. 실험 결과, C$^2$MF는 고노이즈 설정에서 정적 신뢰성 기준선 대비 예측 정확도를 최대 29%까지 향상시키며, 확률 회로 기반 융합의 해석 가능성 이점을 유지함을 보여준다.