arXiv:2411.01955

Robust plug-and-play methods for highly accelerated non-Cartesian MRI reconstruction

Pierre-Antoine Comby, Benjamin Lapostolle, Matthieu Terris, Philippe Ciuciu

제출 2024-11-04

원문 초록

Achieving high-quality Magnetic Resonance Imaging (MRI) reconstruction at accelerated acquisition rates remains challenging due to the inherent ill-posed nature of the inverse problem. Traditional Compressed Sensing (CS) methods, while robust across varying acquisition settings, struggle to maintain good reconstruction quality at high acceleration factors ($\ge$ 8). Recent advances in deep learning have improved reconstruction quality, but purely data-driven methods are prone to overfitting and hallucination effects, notably when the acquisition setting is varying. Plug-and-Play (PnP) approaches have been proposed to mitigate the pitfalls of both frameworks. In a nutshell, PnP algorithms amount to replacing suboptimal handcrafted CS priors with powerful denoising deep neural network (DNNs). However, in MRI reconstruction, existing PnP methods often yield suboptimal results due to instabilities in the proximal gradient descent (PGD) schemes and the lack of curated, noiseless datasets for training robust denoisers. In this work, we propose a fully unsupervised preprocessing pipeline to generate clean, noiseless complex MRI signals from multicoil data, enabling training of a high-performance denoising DNN. Furthermore, we introduce an annealed Half-Quadratic Splitting (HQS) algorithm to address the instability issues, leading to significant improvements over existing PnP algorithms. When combined with preconditioning techniques, our approach achieves state-of-the-art results, providing a robust and efficient solution for high-quality MRI reconstruction.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2607.22661v1cs.AI공통 태그 Denoising, Hallucination

TRE: 확산 언어 모델을 위한 학습 없는 환각 탐지

TRE: Training-Free Hallucination Detection for Diffusion Language Models

확산 대규모 언어 모델(D-LLM)은 최근 주목을 받고 있으나, 환각(hallucination) 문제로 인해 신뢰성이 크게 저해된다. 기존 D-LLM 환각 탐지 접근법은 주로 학습 기반 패러다임을 따르며, 데이터 기반 학습을 통해 탐지기를 최적화한다. 이러한 의존은 도메인 및 모델 간 일반화 가능성을 제한할 뿐만 아니라 추가적인 학습 비용과 배포 부담도 초래한다. 이러한 한계를 해결하기 위해, 우리는 D-LLM을 위한 학습 없는 환각 탐지 지표인 TRE를 제안한다. TRE는 매개변수가 없고 단일 실행(single-run) 지표로, 탐지기 학습이나 반복 샘플링 없이 단일 생성의 엔트로피 신호로부터 환각 위험을 직접 추정한다. TRE는 D-LLM 디코딩 과정에서 공간적·시간적 차원 모두를 따라 엔트로피 신호를 추출한다. 토큰 수준의 공간적 관점에서, 우리는 불확실성을 가장 잘 드러내는 정보 담체인 토큰에 초점을 맞추며, 불확실성이 적극적으로 확정되는 지점을 포착한다. 확산 단계 수준의 시간적 관점에서, 우리는 후반 단계 엔트로피의 지배성을 실증적으로 확인하고, 이를 간단한 선형 가중치 방식으로 집계하여 TRE를 얻는다. 다양한 D-LLM과 QA 데이터셋에 대한 광범위한 실험은 TRE가 경쟁력 있는 성능을 달성하면서 강한 일반화 가능성, 효율성, 견고성을 갖춤을 보여준다.

arXiv:2607.22098v1cs.AI공통 태그 Denoising, Hallucination

Reasoning Denoiser: 대규모 추론 모델의 환각 탐지를 위한 추론 trace 디노이징

Reasoning Denoiser: Denoising Reasoning Traces for Hallucination Detection in Large Reasoning Models

대규모 추론 모델(LRM)은 최종 답을 생성하기 전에 긴 추론 trace를 생성한다. 이러한 trace는 환각 탐지에 유용한 신호를 포함할 수 있지만, 긴 궤적에는 진실성 평가와 관련된 단서를 가리는 노이즈가 있는 단계들이 자주 포함되므로 이를 활용하는 것은 쉽지 않다. 본 논문에서는 두 가지 흔한 형태의 추론 노이즈, 즉 무관한 단계와 반복적인 단계를 식별하고, 둘 다 환각 탐지 성능을 상당히 저하시킴을 보인다. 기존의 신뢰도 기반 점수와 단순한 임베딩 기반 필터링은 노이즈가 있는 단계와 정보가 있는 단계를 신뢰성 있게 분리하는 데 실패한다. 이 과제를 해결하기 위해, 본 연구는 환각 탐지를 위한 추론 trace 디노이징을 위한 새로운 학습 프레임워크인 REDE를 제안한다. 구체적으로, REDE는 최종 답변 어텐션을 자동 감독 신호로 활용하여 단계 수준 표현 공간을 형성하고, 노이즈가 있는 단계를 신뢰성 있게 식별하고 필터링할 수 있는 정제된 임베딩을 생성한다. REDE는 노이즈가 있는 단계를 제거한 후 필터링된 추론 궤적에 대해 동작함으로써 다양한 환각 탐지기에 쉽게 연결할 수 있다. 여러 추론 벤치마크에 대한 광범위한 실험에서 REDE는 경쟁력 있는 베이스라인 대비 탐지 성능을 일관되게 향상시킴을 보여준다.

arXiv:2609.27901v2cs.CV공통 태그 Denoising

모든 모달리티는 동등하지만, 비디오는 더 동등하다: 공동 비디오 생성에서 크로스-어텐션 격차 줄이기

All modalities are equal, but video is more equal: Closing the Cross-Attention Gap in Joint Video Generation

비디오는 외형, 기하학, 모션, 시간적 변화를 포착하여 물리적 사건을 풍부하게 표현합니다. 3D 신체 모션이나 오디오와 같은 다른 모달리티(modality)는 동일한 사건의 더 좁은 측면만을 인코딩합니다. 본 연구에서는 공동 멀티모달 확산 트랜스포머(joint multimodal diffusion transformer)가 교차 모달 대응(cross-modal correspondence)에서 그에 상응하는 비대칭성을 보임을 발견했습니다. 즉, 동반 모달리티는 비디오에 대해 강한 대응성을 형성하지만, 이들이 비디오를 제약하는 상호 대응성(reciprocal correspondence)은 실질적으로 훨씬 약하게 유지됩니다. 저자들은 두 방향을 비디오 토큰(token)에 대한 비교 가능한 대응 분포로 표현하고, 이들의 불일치를 상호 대응 격차(reciprocal correspondence gap)로 정의합니다. 또한 상호 교차 모달 어텐션 정규화(Reciprocal Cross-modal Attention Regularization)를 뜻하는 RecCAR를 제안합니다. 이는 이미 잘 확립된 비디오-모달리티 간 대응을 고정된 참조 기준으로 삼고, 더 취약한 모달리티-비디오 간 대응을 이에 맞춰 정렬하는 KL 정규화(regularizer) 기법입니다. 공동 비디오-모션 및 비디오-오디오 생성 전반에 걸쳐, RecCAR는 전반적인 생성을 개선하면서도 Human Anatomy 점수를 0.69에서 0.75로 향상시키고 오디오-비디오 비동기화(desynchronization)를 0.804에서 0.752로 감소시킵니다

arXiv:2609.14856v3cs.CV공통 태그 Denoising

RAIN: 시맨틱 워터마크 추출을 위한 영역 인식 역전 네트워크

RAIN: Region-Aware Inversion Network for Semantic Watermark Extraction

확산 모델을 위한 시맨틱 워터마크는 시각적 품질을 보존하면서 생성 과정에 소유권 정보를 삽입하지만, 전통적으로 Gaussian-Shading 추출은 초기 노이즈를 복구하기 위해 다단계 확산 역전(multi-step diffusion inversion)을 필요로 합니다. 최근의 1단계(one-step) 방식들은 이러한 비용을 크게 줄일 수 있음을 보여줍니다. 본 연구에서는 확장된 플로우 매칭(extended flow matching)과 조건부 회귀(conditional regression)를 통해 이 문제를 다룹니다. 핵심 관찰은 높은 신호 대 잡음비(high-SNR) 이미지 종점 근처에서 고 SNR 영역의 확장된 플로우 매칭 첫 단계 출력으로 주어지는 유용한 노이즈 통계량을 복구하는 것이 전체 역전 궤적(inverse trajectory)을 재구성하는 것보다 훨씬 단순하며, Gaussian Shading은 복구된 잠재 변수(latent)가 올바른 워터마크 결정 영역 내에 유지되기만 하면 된다는 점입니다. 이러한 관찰을 바탕으로, 종점 복구를 이미지와 유사한 앵커와 노이즈 지향적 잔차로 분해하여 GPU 병렬 연산 활용 능력을 향상시키는 경량 프롬프트-프리 추출기를 제안합니다. 이를 통해 얻어진 방법은 반복적인 역전과 확산 규모 U-Net의 반복 평가(evaluation)를 피함으로써, 간결한 이론적 해석을 갖춘 효율적인 1단계 추출 파이프라인을 제공합니다. 노이즈 추출의 연산 비용은 OSI와 FARI 모두보다 낮습니다. GitHub 저장소는 https://github.com/TheLovesOfLadyPurple/RAIN-lightweight-NN-for-one-step-semantic-watermark-extraction 에서 확인할 수 있습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.