PyTorchKR Papers

최신 논문

총 5편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2609.27853v1stat.ML

증거 학습 기반 변이형 오토인코더에 관한 이론적 연구

Theoretical Study on the Evidential Learning-based Variational Autoencoder

정규-역감마(Normal-Inverse-Gamma, NIG) 잠재 계층 구조는 네 개의 매개변수를 가지지만, 이로 인해 유도된 잠재 법칙은 이 네 개를 모두 식별하지는 못한다. $\sigma^2\sim\mathrm{InvGamma}(\alpha,\beta)$, $\mu\mid\sigma^2\sim\mathcal{N}(\gamma,\sigma^2/\nu)$, 그리고 $z\mid\mu,\sigma^2\sim\mathcal{N}(\mu,\sigma^2)$에 대해, $z$의 주변 법칙(marginal law)은 $c=\beta(1+1/\nu)$를 통해서만 $(\nu,\beta)$에 의존한다. 따라서 재구성 관점에서 가시적인 매개변수 공간은 1차원 파이버 자유도를 갖는 3차원 몫 공간 $(\gamma,\alpha,c)$이다. 고정된 계층적 변분 목적식에 대해 완전한 NIG 사전분포로의 순방향 KL 발산(divergence)을 정확하게 부분 최소화하면 각 파이버에서 사전분포에 상대적인 고유한 대표값을 선택하게 되며, 이는 4개 좌표 목적식과 동일한 최적값을 갖는 정확한 3개 좌표 축소를 산출한다. $\rho_0=2\beta_0/\nu_0$ 및 $T=c/\{\alpha[(\gamma-\gamma_0)^2+\rho_0]\}$로 표기할 때, 역 표준 할당(inverse canonical allocation) $1/\nu_{\rm can}$이 $T$의 명시적인 강단조 증가 함수임을 보인다. 따라서 $\alpha>1$인 경우 비율 $u_{\rm epi}/u_{\rm var}=1/\nu_{\rm can}$은 몫 상태와 사전분포에 의해 결정되며, 공통 보정(calibration) 하에서 순위만을 사용하는 경우 $T$는 좌표별로 동일한 서열 정보를 포함한다. 잔여 사전분포 게이지는 제거되기보다는 특성화된다. 즉, $(\gamma_0,\rho_0)$는 서열 의존성을 지배하고, $(\nu_0,\alpha_0)$는 수치적 보정과 $1/\nu_{\rm can}$의 해석적 상한을 결정한다.

arXiv:2607.11091v1cs.LG

Adapting Evidential Neural Networks to Test-Time Neighbor Fusion Improves Molecular Property Prediction

A trained molecular property model can be refined at test time by correcting each prediction with the measured labels of the most similar training molecules, a retraining-free procedure we call neighbor fusion; evidential neural networks make it principled by using their aleatoric and epistemic uncertainty to parameterize a Bayesian update. Our main contribution, PG-EVIKAL, learns a property-distance metric to re-rank structurally similar neighbors by their property relevance before fusion, building on EVIKAL (scalar Kalman filter) and GP-EVIKAL (Gaussian process variant handling correlated neighbors). Evaluated on 16 molecular datasets, PG-EVIKAL reduces RMSE relative to the evidential model baseline on 14 of them, with a median reduction of 19.4%, and improves calibration; in sequential-assay scenarios it further incorporates newly measured molecules, refining predictions as they arrive without retraining. This work demonstrates that evidential uncertainty decomposition is not merely a calibration objective but an actionable inference resource that enables test-time refinement of molecular property predictions.

arXiv:2607.06356v1eess.IV

TMF-RSE: 폐 중증도 점수화를 위한 지역 의미론과 증거적 불확실성을 갖춘 삼중 모달 융합

TMF-RSE: Tri-Modal Fusion with Regional Semantics and Evidential Uncertainty for Lung Severity Scoring

흉부 영상에서 폐 질환 중증도를 정량화하기 위해 외관 특징, 폐 분할 마스크의 구조적 특징, 그리고 LLaVA-Med 기반 비전-언어(vision-language) 모델의 의미론적 특징을 결합한 삼중 모달 융합 프레임워크 TMF-RSE를 제안한다. Per-COVID-19 CT 및 RALO 데이터셋 실험에서 트랜스포머 기반 기준 모델들을 상회하며, 증거적 회귀(evidential regression)를 통해 중증도 예측과 함께 불확실성 추정치도 제공한다.

arXiv:2507.18366v2cs.LG

증거적 지식 증류를 통한 대규모 언어 모델의 효율적 불확실성 추정을 향하여

Toward Efficient Uncertainty in LLMs through Evidential Knowledge Distillation

여러 번의 순전파가 필요한 베이지안·앙상블 기반 불확실성 인식 교사 모델을 LoRA로 파인튜닝된 단일 순전파 학생 모델로 증류하는 방법을 제안하며, 소프트맥스 출력과 Dirichlet 분포 출력(증거적 학습)을 활용한 두 가지 증류 전략을 비교한다. 분류 과제 실험에서 증류된 학생 모델이 교사 모델 대비 유사한 예측 성능과 불확실성 정량화 성능을 단일 순전파만으로 달성함을 보여준다.

arXiv:2606.20924v1cs.CV

ELDiff: 증거 학습이 텍스트-이미지 확산을 만날 때

ELDiff: When Evidential Learning Meets Text-to-Image Diffusion

다중 객체 텍스트-이미지(T2I) 확산에서 텍스트 프롬프트와 생성된 시각적 내용 간의 의미적 일관성을 보장하는 것은 이미지 합성에 매우 중요하다. 하지만 이러한 일관성 제약은 확산 모델의 디노이징(denoising) 과정에서 종종 과소평가된다. 토큰(token) 감독 확산 모델은 이미지 내용과 객체 분할 맵 간의 객체별 일관성을 학습하여 이 문제를 완화할 수 있지만, 특히 여러 객체가 포함될 때 분할 맵 바이어스와 의미적 중첩 충돌 문제에 시달리는 경향이 있다. 본 논문에서는 ELDiff를 제안한다. 이는 새로운 증거 학습(evidential learning) 감독 T2I 확산 모델로, 불확실성 지표와 충돌 탐지의 장점을 활용하여 신뢰할 수 없는 분할 맵에 대한 오류 허용성을 높이고 의미적 충돌을 억제하여 객체별 일관성 학습을 강화한다. 구체적으로, 증거 정규화(evidential regularization)를 통해 신뢰할 수 없는 라벨에서의 과신(overconfidence)을 억제하는 픽셀 증거 손실(pixel evidence loss)을 제안하고, 측정된 충돌 인자(conflict factor)를 최적화하여 의미 간의 모순을 약화시키는 토큰 충돌 손실(token conflict loss)을 설계한다. 광범위한 실험 결과, 우리의 ELDiff는 추가적인 추론 시 조작 없이 SD v1.4, SD v2.1, SDXL, SD v3.5, Qwen-Image에서 기존 학습 기반 및 학습 없는(train-free) T2I 확산 모델을 능가한다. 특히 ELDiff는 기존 T2I 확산 모델의 학습 파이프라인에 원활하게 확장할 수 있다. 코드는 https://github.com/QingtaoPan/ELDiff에서 확인할 수 있다.