arXiv:2406.06946

Sparse Bayesian Networks: Efficient Uncertainty Quantification in Medical Image Analysis

Zeinab Abboud, Herve Lombaert, Samuel Kadoury

제출 2024-06-11

원문 초록

Efficiently quantifying predictive uncertainty in medical images remains a challenge. While Bayesian neural networks (BNN) offer predictive uncertainty, they require substantial computational resources to train. Although Bayesian approximations such as ensembles have shown promise, they still suffer from high training and inference costs. Existing approaches mainly address the costs of BNN inference post-training, with little focus on improving training efficiency and reducing parameter complexity. This study introduces a training procedure for a sparse (partial) Bayesian network. Our method selectively assigns a subset of parameters as Bayesian by assessing their deterministic saliency through gradient sensitivity analysis. The resulting network combines deterministic and Bayesian parameters, exploiting the advantages of both representations to achieve high task-specific performance and minimize predictive uncertainty. Demonstrated on multi-label ChestMNIST for classification and ISIC, LIDC-IDRI for segmentation, our approach achieves competitive performance and predictive uncertainty estimation by reducing Bayesian parameters by over 95\%, significantly reducing computational expenses compared to fully Bayesian and ensemble methods.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.13387v1eess.IV공통 태그 Uncertainty Quantification, Medical Image Analysis

라벨 조건부 등각 예측을 활용한 라디오믹스 기반 갑상선 결절 분류

Radiomics-Based Thyroid Nodule Classification with Label-Conditional Conformal Prediction

갑상선 결절의 악성도 평가는 초음파 영상에 의존하지만, 기존의 위험 계층화 시스템은 관찰자 간 상당한 변동성으로 인해 불필요한 생검 비율이 높아지는 문제를 겪고 있습니다. 본 논문에서는 PyRadiomics를 통한 정량적 특징 추출과 일반화 가산 모델(GAM) 분류기를 결합한 라디오믹스(radiomics) 기반 프레임워크를 제안합니다. 이 분류기는 판별 성능과 해석 가능성 간의 우수한 절충점을 보여 6개의 후보 중 선정되었습니다. 점 예측을 불확실성 추정으로 보완하기 위해 라벨 조건부 보장을 갖춘 교차 등각 예측(Cross-Conformal Prediction)을 적용하여, 이진 결정을 강제하기보다는 모호한 사례를 임상 검토 대상으로 플래깅(flagging)합니다. 실험은 갑상선 결절의 공개 초음파 데이터셋인 TN5000에서 수행되었습니다. 스피어만 상관관계 필터링 후 36개의 특징이 유지되었으며, GAM은 검증 세트에서 $0.89$의 AUC, $0.83$의 민감도, $0.82$의 특이도를 달성했습니다. 두 클래스 모두에 대한 실증적 커버리지 보장을 보장하도록 선택된 유의수준 $ε=0.09$에서, 테스트 세트 결절의 63\%가 확실한(즉, 단일 라벨) 예측을 받았으며, 확실한 악성에 대해서는 $0.94$의 조건부 정밀도와 확실한 양성 사례에 대해서는 $0.73$의 조건부 음성 예측도(NPV)를 기록한 반면, 나머지 37\%는 임상의에게 의뢰되었습니다.

arXiv:2609.19730v2eess.IV공통 태그 Uncertainty Quantification, Medical Image Analysis

분할 한계선: 명시적 좌심실 마스크가 학습 기반 박출률 회귀 성능을 개선하지 못하는 이유

The segmentation ceiling: why explicit left-ventricular masks do not improve learned ejection-fraction regression

심장초음파를 통한 좌심실 박출률(EF)의 정확한 추정은 심혈관 치료의 핵심이며, 심층 학습(deep learning)은 심장초음파 비디오로부터 자동화된 EF 예측을 가능하게 합니다. 임상적으로 EF가 좌심실(LV) 용적에서 도출되기 때문에, 명시적인 좌심실 분할(segmentation)이 예측 성능을 향상시킬 것이라는 직관이 널리 받아들여져 왔습니다. 본 연구에서는 이를 검증 가능하게 하는 정량적 기준인 '분할 한계선(segmentation ceiling)'을 제안합니다. 이완기말 및 수축기말 용적의 정규화된 차이로 정의되는 EF로부터, 프레임별 분할 영역 오차가 EF 오차로 전파되는 과정을 닫힌 형식(closed form)으로 유도하고, 이를 통해 마스크가 직접 회귀보다 성능을 개선하기 위해 도달해야 하는 정확도를 도출합니다. EchoNet-Dynamic, UniFormer-S 백본, 그리고 실증적으로 측정된 환자 내 오차 상관관계를 사용했을 때, 이 기준은 손익분기점을 프레임별 영역 오차 약 10% 부근으로 설정하는 반면, 대표적인 분할 모델은 한계선을 상회하는 약 14% 수준에서 작동합니다. 이에 부합하게 분할 또는 영역 정보를 주입하는 네 가지 전략(예측 마스크 채널, 이완기말/수축기말 클립 샘플링, 빈(bin)별 및 진폭 영역 일관성 목적 함수)은 원본 비디오 기준선(baseline)을 능가하지 못하며, 실제 정답(ground-truth) 마스크는 레이블 누출을 통해서만 도움이 됩니다. 따라서 입력 표현이 한계 요인이 아님을 보이고 일반화(generalization)를 실질적인 개선 수단으로 식별합니다. 강력한 증강과 결합된 가중치(weight) 평균화는 동일한 조밀 클립 프로토콜에서 R(2+1)D 기준선(0.811)에 필적하는 0.806의 테스트 R^2(MAE 4.08)을 달성하는 동시에 검증(validation)-테스트 간 격차를 줄입니다. 마지막으로, 이분산 베타-NLL(heteroscedastic beta-NLL) 공식화는 몬테카를로 드롭아웃(Monte-Carlo dropout)과 달리 임상적으로 더 까다로운 낮은 EF 사례에서 더 크게 나타나는 유용하고 잘 보정된 예측별 불확실성을 제공합니다. 분할 한계선은 마스크 유도 기반 EF 추정이 언제 가치가 있는지에 대한 구체적인 설계 기준과 함께 단순하고 불확실성을 고려하는 EF 회귀 레시피를 제공합니다.

arXiv:2610.02269v1eess.IV공통 태그 Uncertainty Quantification, Medical Image Analysis

의료 영상을 위한 변분 위험 최소화 기반 신뢰도 게이팅 클라우드-엣지 캐스케이드 분류

Confidence-Gated Cloud-Edge Cascade Triage via Variational Risk Minimization for Medical Imaging

응급 흉부 X선(CXR) 중증도 분류(triage)에는 구조적인 모달리티 격차가 존재합니다. 즉 판독문은 분류 결정 이후에 도착하지만, 멀티모달 파운데이션 모델은 영상-텍스트 입력을 모두 필요로 합니다. 본 논문에서는 대규모 비전-언어 모델(LVLM)이 생성한 판독문 변형들을 잠재적 임상 해석의 몬테카를로(Monte Carlo) 샘플로 취급하는 지식 증류(distillation) 프레임워크인 변분 위험 최소화(Variational Risk Minimization, VRM)를 제안합니다. 단일 교사 모델의 타깃으로부터 증류하는 대신, VRM은 변분적으로 한계화된(variationally marginalized) 교사 분포로부터 학습하여 모달리티 누락 제약 조건 하에서도 불확실성을 인식하는 감독(uncertainty-aware supervision)을 가능하게 합니다. 동일한 인코더 패밀리 조건에서, VRM은 직접적인 미세조정 베이스라인보다 우수한 성능을 보이며 환각(hallucination) 감독으로부터 강력한 복원력을 보여 캘리브레이션을 개선합니다. 한계화된 감독은 판독문 선택의 불안정성을 완화합니다. 소형 엣지-학생 모델 구현에서, 신뢰도 게이팅 캐스케이드는 20.3%의 클라우드 이관율과 평균 103ms의 지연 시간으로 AUC 0.941을 달성하여, 클라우드-엣지 임상 워크플로우를 위한 명시적인 신뢰성-지연 시간 운용점을 제공합니다.

arXiv:2610.03142v1cs.CV공통 태그 Uncertainty Quantification, Medical Image Analysis

CalCErt: 의료 이미지 분류에서 신뢰도 보정의 구간별 인증

CalCErt: Bin-wise Certification of Confidence Calibration in Medical Image Classification

심층 신경망은 적대적 섭동(adversarial perturbation)에 여전히 취약하며, 이는 예측뿐만 아니라 신뢰도 점수(confidence score)까지 왜곡하여 불확실성 보정(uncertainty calibration)을 저해할 수 있습니다. 기존의 인증 방법들은 예측된 범주를 보존하는 데 초점을 맞추고 있는 반면, 적대적 공격 하에서 보정이 어떻게 작동하는지에 대한 보장을 제공하는 것은 여전히 간과되어 왔습니다. 본 연구에서는 사전학습된 모든 미분 가능한 분류기를 대상으로 구간별(bin-wise) 신뢰도 보정을 인증하는 간단하고 효율적인 사후(post-hoc) 전략인 CalCErt를 소개합니다. 우리의 접근 방식은 경험적 보정 추정치, 통계적 집중 한계(concentration bound), 그리고 신뢰도 함수의 국소 립시츠(Lipschitz) 추정치를 결합하여 반지름 R의 $ell_2$-볼 내에서 최악의 경우에 대한 오보정(miscalibration)의 데이터 의존적 상한을 도출합니다. 11개의 의료 이미지 분류 작업과 다양한 적대적 섭동에 걸쳐 CalCErt를 평가한 결과, 경쟁력 있는 긴밀도(tightness)를 유지하면서도 기준선 전략보다 실질적으로 더 높은 인증 적용 범위(certified coverage)를 보임을 입증합니다. 우리의 코드는 https://github.com/leofillioux/calcert 에서 확인할 수 있습니다.

arXiv:2610.03224v1cs.CV공통 태그 Uncertainty Quantification, Medical Image Analysis

확산 기반 의료 영상 합성에서 의미론적 정확성의 대리 지표로서의 불확실성

Uncertainty as a Proxy for Semantic Correctness in Diffusion-Based Medical Image Synthesis

확산 모델(Diffusion model)은 조영 증강 CT(CECT)를 비조영 CT(NCCT)로부터 합성할 수 있어 조영제 투여와 그에 따른 환경적 비용 및 환자 접근성 비용을 줄일 수 있다. 그러나 시각적으로 사실적인 이미지가 반드시 해부학적으로 정확한 것은 아니며, 생성 품질을 평가하는 데 사용되는 픽셀 강도 및 특징 공간 유사도 지표는 해부학적 정확성을 직접 측정하지 못한다. 본 연구에서는 확산 기반 의료 영상 합성에서 불확실성(uncertainty)이 의미론적 정확성(semantic correctness)의 대리 지표로 기능할 수 있는지 조사한다. 우리는 CECT 영상과 내강 분할(lumen segmentation)을 공동으로 생성하는 멀티태스크 확산 프레임워크인 AortaDiff를 활용하여 NCCT-to-CECT 합성을 연구한다. 분할 출력은 생성된 혈관 해부학에 대한 명시적 표현을 제공하여 분할 기반 오차를 생성 정확성의 정량적 척도로 사용할 수 있게 한다. 가중치(Ensemble, HyperDiff, BayesDiff), 아키텍처 섭동(MCDropout), 생성 확률성(RDS), 입력 섭동(TTA) 불확실성을 아우르는 6가지 방법을 픽셀, 영역, 이미지 수준에서 비교하고, 임상적으로 유의미한 분포 외(OOD) 케이스 탐지에 대해 평가한다. 불확실성은 세 가지 공간적 척도 모두에서 유의미한 정보를 제공하며, 분포 이동(distribution shift)이 존재하는 외부 다기관 데이터셋에서도 유효성을 유지하고 OOD 탐지를 지원함을 확인했다. 특히 6가지 방법 중 MCDropout이 두드러졌다. 모든 척도에서 선도적인 방법 중 하나로 평가받았으며, 외부 데이터셋에서도 우수한 일반화 성능을 보였고, 이미 드롭아웃으로 학습된 모든 모델에서 추론 시 바로 활성화할 수 있어 추가적인 학습 비용 없이 신뢰할 수 있는 불확실성을 제공한다. 불확실성은 심각한 실패 사례를 신뢰성 있게 감지하지만, 이미 고품질인 이미지들 사이에서는 구별력이 떨어진다. 이러한 발견은 불확실성이 NCCT-to-CECT 합성에서 품질 필터링, 신뢰성 평가 및 OOD 탐지를 위한 실용적이고 계산 효율적인 신호로 활용될 수 있음을 뒷받침한다.

arXiv:2610.01452v1cs.CV공통 태그 Uncertainty Quantification, Medical Image Analysis

불확실성 유도 핸드셰이크: 수술 등급 신경교종 분할을 위한 효율적인 인간 참여형 정제

Uncertainty-Guided Handshake: Efficient Human-in-the-Loop Refinement for Surgical-Grade Glioma Segmentation

의료 이미지 분할(image segmentation)을 위한 최신 자동화 모델은 높은 평균 성능을 달성하지만, 특히 신경종양학 분야에서 안전한 임상 적용을 가로막는 국소적이고 치명적인 실패를 빈번하게 겪습니다. 대화형 분할 프레임워크는 인간의 감독을 통합하여 이를 완화하지만, 전통적으로 임상의가 오류를 직접 찾아내도록 요구함으로써 과도한 인지적 및 시간적 부담을 초래합니다. 본 연구에서는 자동화된 기준선(baseline) 성능과 수술 등급 정밀도(precision) 사이의 간극을 메우는 효율적인 하이브리드 구조적-우연적 인간 참여형(Human-in-the-Loop) 신경교종 분할 프레임워크를 제시합니다. 이 프레임워크는 큐레이션된 벤치마크에서 2.0 mm 미만의 HD95를 달성하는 동시에 실제 임상 데이터 전반의 구조적 실패에 대한 안전망 라우팅을 제공합니다. 복셀 단위의 테스트 시점 증강(TTA) 불확실성을 추출하고 계층적 위상 필터링을 적용함으로써, 본 제안 방법은 고위험 구조적 이상치를 선제적으로 격리합니다. 연구진은 까다로운 분포 외(out-of-distribution) 임상 스트레스 테스트 코호트(N = 362)를 대상으로 본 접근법을 종합적으로 평가했습니다. 시뮬레이션된 인간 오라클(Human Oracle) 환경에서 본 프레임워크는 전체 종양(WT) Dice 점수를 0.891에서 0.914로 향상시켰고, 95번째 백분위수 하우스도르프 거리(HD95)를 5.82 mm에서 4.76 mm로 단축했습니다. 수술 안전성에 매우 중요하게도, 시스템은 종양 핵심(TC) 영역의 심각한 경계 오류를 복구하여 평균 HD95를 17.96 mm에서 14.83 mm로 감소시켰습니다(절대 TC Dice는 0.356으로 향상). 이러한 공간적 복구는 목표 체적의 11.3%에 불과한 중앙값 대화형 작업량만 요구하면서 달성되었습니다. 이것이 실제 인지적 마찰이 배제된 시뮬레이션상의 상한선이라는 점을 인정하더라도, 본 프레임워크는 임상 AI를 안전하게 배포하기 위한 매우 파레토 효율적인(Pareto-efficient) 경로를 입증합니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.