CineMR: 정량적 심장 MRI 평가를 위한 도구 통합형 비전-언어 추론
CineMR: Tool-Integrated Vision-Language Reasoning for Quantitative Cardiac MRI Assessment
한국어 초록
시네(cine) 영상을 포함한 심혈관 자기공명영상(CMR)은 심장 형태 및 심실 기능의 비침습적 평가를 위한 표준 기준입니다. 시네 CMR 해석은 정성적 시각 평가와 심실 부피, 박출률(ejection fraction), 심근 질량, 벽 두께 및 국소 벽 운동(regional wall motion)에 대한 정량적 측정을 통합합니다. 현재의 의료용 비전-언어 모델(VLM)은 분석 도구 없이는 다차원 시네 영상으로부터 정량적 측정값을 신뢰성 있게 도출할 수 없습니다. 본 논문에서는 심장 영상 분석 도구를 호출하고 그 출력을 인터리브된 추론 과정에 통합하여 정량적 CMR 평가를 수행하는 도구 증강 VLM인 CineMR을 제시합니다. 또한 정량적 지표 추출, 다중 클래스 진단, 감별 진단을 포괄하는 다중 코호트 시각 질문 답변(VQA) 벤치마크를 분할(segmentation), 시상 선택(phase selection), 부피 측정, 형태 측정 및 국소 벽 운동 분석 도구와 함께 구축합니다. CineMR은 도구 상호작용 궤적에 대한 지도 미세조정(SFT)을 거친 후 조건부 도구 사용 보상을 적용한 그룹 상대 정책 최적화(GRPO)를 통해 학습됩니다. 다중 코호트 시네 CMR 벤치마크에서 CineMR은 35.9%의 pass@1과 58.9%의 pass@4를 달성한 반면, 백본인 Qwen3-VL-8B는 1.5% pass@1, LLaVA-Med v1.5 및 MedGemma-4B는 각각 0.0%와 7.0% pass@1에 그쳤습니다. 올바른 도구 호출 비율은 SFT 후 78.9%에서 GRPO 후 99.8%에 도달했습니다. 실시간 도구 출력은 직접적인 모델 예측 대비 심실 측정 정확도를 20.4--23.7% 향상시켰으며, 모든 도구를 제거하면 pass@1이 35.9%에서 27.9%로 감소했습니다. 이러한 결과는 정량적 시네 CMR 추론을 위한 신뢰할 수 있는 도구 사용의 중요성을 강조하며, 보조적 심장 영상 평가를 위한 유망한 접근법으로서 CineMR의 가능성을 뒷받침합니다. 코드, 벤치마크 리소스 및 모델 가중치는 https://github.com/AI-MIND-Lab/CineMR 에서 확인할 수 있습니다.
원문 초록
Cardiovascular magnetic resonance (CMR), including cine imaging, is a reference standard for the noninvasive assessment of cardiac morphology and ventricular function. Cine CMR interpretation integrates qualitative visual assessment with quantitative measurements of ventricular volumes, ejection fraction, myocardial mass, wall thickness, and regional wall motion. Current medical vision-language models (VLMs) cannot reliably derive quantitative measurements from multidimensional cine images without analysis tools. We present CineMR, a tool-augmented VLM that invokes cardiac image-analysis tools and integrates their outputs into interleaved reasoning for quantitative CMR assessment. We also construct a multi-cohort visual question answering benchmark covering quantitative metric extraction, multiclass diagnosis, and differential diagnosis, together with tools for segmentation, phase selection, volumetry, morphometry, and regional wall motion analysis. CineMR is trained with supervised fine-tuning (SFT) on tool-interaction traces followed by Group Relative Policy Optimization (GRPO) with conditional tool-use rewards. On the multi-cohort cine CMR benchmark, CineMR achieves 35.9% pass@1 and 58.9% pass@4, compared with 1.5% pass@1 for the Qwen3-VL-8B backbone and 0.0% and 7.0% pass@1 for LLaVA-Med v1.5 and MedGemma-4B, respectively. Correct tool invocation reaches 99.8% after GRPO, up from 78.9% after SFT. Live tool outputs improve ventricular measurement accuracy by 20.4--23.7% over direct model predictions, and removing all tools reduces pass@1 from 35.9% to 27.9%. These results highlight the importance of reliable tool use for quantitative cine CMR reasoning and support CineMR as a promising approach for assistive cardiac image assessment. Code, benchmark resources, and model weights are available at https://github.com/AI-MIND-Lab/CineMR.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
의료 비전-언어 어시스턴트의 권한 보존 평가
Authority-Preserving Evaluation of Medical Vision-Language Assistants
의료 비전-언어(vision-language) 모델은 피부 병변을 얼마나 시급히 검토해야 하는지 제안할 수 있지만, 현지 의료 서비스는 전원(referral) 정책, 수용 한도, 현지 보유 환자 맥락에 따라 해당 제안을 수용하거나 변경할 권한을 유지합니다. 따라서 제안 품질과 선택된 조치 품질은 서로 다른 평가(evaluation) 대상이며, 현지 검토가 기대 조치 점수를 보존할 때에만 이들 간에 벤치마크(benchmark) 근거가 전이됩니다. 본 연구에서는 두 조치를 모두 기록하고, 공표된 현지 기준에 따라 선택된 조치를 채점하며, 실행 가능한 경우 거부된 제안 역시 동일한 규칙으로 채점하는 로깅 및 평가 프레임워크인 AuthEval을 소개합니다. 이는 기록이 뒷받침될 때에만 그에 따른 권한 격차(authority gap)를 보고합니다. 이 격차는 제안 변경률과 변경된 사례의 평균 점수 변화의 곱이므로, 변경률 단독으로는 격차의 크기나 부호를 결정할 수 없습니다. ISIC 2019 데이터셋에서 MedGemma 및 시뮬레이션된 현지 검토를 적용한 결과, 유사한 변경률을 가진 두 제약 체제는 수용 한도 하에서는 낙관적인 이미지 단위 동일 격차($+0.744$ 시뮬레이터 단위)를 보였으나, 안전성(safety) 하에서는 감지 가능한 격차를 보이지 않았습니다. 또한 공표된 평가 단위 역시 중요했는데, 혼합 제약 조건 하에서 가중치 기준이 이미지에서 병변 인지 클러스터로 전환되었을 때 격차는 $+0.374$에서 $-0.206$으로 반전되었습니다. 이처럼 AuthEval은 연구의 기록이 모델에 대한 주장, 워크플로에 대한 주장, 또는 둘 모두에 대한 주장을 뒷받침하는지 여부를 명확히 해줍니다.
QwenVLConnector: 세밀한 임상 지각과 텍스트 생성을 위한 빠르고 통합된 의료 VLM 챗봇
QwenVLConnector: A Fast, Unified Medical VLM Chatbot for Fine-Grained Clinical Perception and Text Generation
대부분의 의료 비전-언어 모델(VLM)은 개방형 보고서 생성과 VQA에는 뛰어나지만, 통합된 인터페이스 안에서 구조화된 세밀한 임상 지각을 지원하는 데는 한계가 있다. 본 논문은 QwenVLConnector를 제안한다. 이는 Qwen2.5-VL 기반 의료 챗봇으로, 분류, 다중 레이블 분류, 텍스트화된 검출, 계수, 회귀, 자유 형식 보고서 생성을 단일 next-token 목표 아래 하나로 통합한다. 핵심 구성요소는 경량의 밀집 다층 Connector로, 저수준·고수준 시각 특징을 집계하고 사전학습된 vision Merger를 통해 정렬한 뒤, 시퀀스 길이를 늘리지 않고 최종 시각 표현과 융합한다. 이 설계는 효율성을 유지하면서 시각 토큰을 상보적인 공간·의미 단서로 풍부하게 한다. FLARE-2D에서 QwenVLConnector는 검출 F1을 0.55에서 0.85로 개선하고, 단일 레이블 분류를 0.37에서 0.51로 높이며, Qwen2.5-VL 기준선 대비 보고서 생성 GREEN을 최대 18.3점 향상시킨다. 또한 보고서 생성을 위한 멀티모달 문맥 내 학습(ICL)을 탐구하여, 모델 매개변수를 갱신하지 않고도 추가 개선을 보였다. 전반적으로 QwenVLConnector는 구조화된 의료 지각과 개방형 임상 텍스트 생성을 결합하는 통합적이고 효율적인 프레임워크를 제공한다. 코드는 https://github.com/plnguyen2908/QwenConnector 에서 확인할 수 있다.
ClinFusion: 포괄적 의료 이해를 위한 비전 중심 다중모달 LLM 시스템
ClinFusion: A Vision-Centric Multimodal LLM System for Holistic Medical Understanding
다중모달 대규모 언어 모델(MLLM)은 임상 실무를 혁신할 막대한 잠재력을 지니고 있으나, 의료 분야에 이를 배포하는 것은 근본적으로 비전 중심의 과제이다. 모델은 이질적인 2D 및 3D 의료 영상으로부터 지식을 흡수해야 하며, 평가 프로토콜은 방사선 전문의의 임상 실무와 부합해야 하고 정확하고 세밀하며 사실성 중심의 평가를 제공해야 한다. 본 논문에서는 이러한 한계를 체계적으로 해결하기 위해 포괄적 의료 이해를 위해 설계된 비전 중심 MLLM인 ClinFusion을 소개한다. 우리는 Cascade Spatial-Aware Locality Fusion 연산자를 특징으로 하는 구성적·계단식 비전 인코더 아키텍처를 제안하며, 이는 융합 인코더 내에서 다양한 2D 및 네이티브 3D 의료 영상 이해를 통합한다. 또한 지시 따르기(instruction following) 평가를 위한 MedIF-Bench와, 임상적으로 정렬되고 사실성 중심의 보고서 생성 평가를 위한 관심 영역(RoI) 기반 방법을 포함하는 비전 그라운딩(vision-grounded) 평가 프레임워크를 추가로 도입한다. ClinFusion이 시각적 질의응답, 보고서 생성, 지시 따르기에 이르는 2D 및 3D 다중모달 의료 벤치마크와 텍스트 의료 과제를 아우르는 포괄적 벤치마크 모음 전반에서 새로운 최첨단(state-of-the-art) 성능을 달성함을 보인다. 24개 벤치마크 중 20개에서 Hulu-Med, Lingshu 등 선도적인 오픈소스 의료 MLLM을 능가했으며, 16개 벤치마크 중 13개에서 GPT-5.2, Gemini-3-Flash와 같은 강력한 독점 모델보다 우수한 다중모달 능력을 보였고, 검색-증강 생성(RAG) 및 도구 지원 임상 워크플로를 위한 에이전트(agent) 도구 사용으로 더욱 확장할 수 있다. 방사선 전문의 자격을 갖춘 전문의들의 단맹 평가는 ClinFusion이 최상위 순위의 보고서를 생성함을 확인했으며, 우리의 RoI 기반 지표가 검토된 모든 자동 평가 지표 중 전문가 판단과 가장 강한 상관관계를 달성함을 검증했다.
SLICEChat: 전슬라이드 병리 언어 모델을 위한 점진적 인코더 내 토큰 가지치기
SLICEChat: Progressive In-Encoder Token Pruning for Whole-Slide Pathology Language Models
전슬라이드 병리 이미지(WSI)는 기가픽셀 규모의 시각 정보를 담고 있어, 슬라이드 수준 멀티모달 대규모 언어 모델(MLLM)의 확장성에 큰 난제를 만든다. 기존 접근은 수천 개의 패치 토큰을 처리하고, 보통 슬라이드 인코딩 이후에만 압축을 적용하여 멀티모달 어텐션이 계산적으로 비싸게 남는다. 우리는 하이브리드 Mamba–트랜스포머 슬라이드 인코더 안에 점진적 토큰 가지치기를 통합한 슬라이드 수준 MLLM인 SLICEChat을 제안한다. Mamba 레이어는 효율적인 장거리 전파를 가능하게 하고, 트랜스포머 레이어는 시퀀스가 점진적으로 짧아지는 동안 전역 상호작용을 유지한다. 단계 사이에서는 언어 지도 하의 영역 인식 가지치기가 제어된 유지율(keep-rate) 스케줄 하에서 공간적으로 일관된 저유용 영역을 제거하여, 멀티모달 융합 전에 압축된 슬라이드 표현을 만든다. SlideBench VQA에서 SLICEChat은 TCGA에서 79.84%, BCNB 코호트에서 59.09% 정확도를 달성해 기존 슬라이드 수준 병리 MLLM을 능가했으며, WSI-Bench 전체 지표에서도 최고 성능을 기록했다. 또한 평가된 모델 중 경쟁력 있는 메모리 사용량과 추론 지연 시간을 보였다. 이 결과는 기가픽셀 WSI에 대한 정확하고 계산적으로 효율적인 멀티모달 추론을 보여 준다.
CRAFT: 의료 비전-언어 모델의 인과적 책임 및 실패 추적
CRAFT: Causal Responsibility and Failure Tracing in Medical Vision Language Models
EchoTab: 정형 데이터 재구성을 통한 심초음파 진단용 측정 기반 표현 학습
EchoTab: Learning Measurement-Grounded Representations for Echocardiographic Diagnosis through Tabular Reconstruction
심초음파와 같은 다중 뷰(multi-view) 의료 영상 검사에서 진단 정보는 여러 뷰에 분산되어 있으며, 각 뷰는 심장 구조와 기능의 서로 다른 측면을 포착합니다. 임상 현장에서는 이러한 뷰들을 먼저 정량적 측정을 통해 해석한 후, 이를 바탕으로 구체적인 진단을 내립니다. 그러나 기존의 심초음파 표현 학습 방법들은 뷰와 진단 사이의 중간 표현으로서 측정을 명시적으로 모델링하지 않습니다. 그 결과 개별 측정이 다운스트림 진단 태스크에서 선택적으로 활용할 수 있는 형태로 명시적 표현되지 않아 정확한 진단을 저해합니다. 이러한 계층적 임상 워크플로우에서 착안하여, 본 논문에서는 심초음파 뷰와 진단 사이의 중간 표현으로 측정별 토큰(measurement-specific token)을 활용해 다중 뷰 심초음파 검사를 표현하는 측정 기반(measurement-grounded) 표현 학습 프레임워크인 EchoTab을 제안합니다. 각 측정 토큰은 추정에 관련된 뷰에 선택적으로 어텐션(attention)하며, 해당 측정값을 예측하도록 정형 데이터 재구성(tabular reconstruction)을 통해 학습됩니다. 이렇게 도출된 토큰들은 임상적으로 유의미한 구조적 및 기능적 특성을 인코딩하는 요인화된(factorized) 심초음파 표현을 형성하여 다운스트림 진단에 선택적으로 활용될 수 있습니다. 흔히 사용되는 대조 학습 접근법과 달리 EchoTab은 네거티브 샘플이나 큰 배치(batch) 크기를 필요로 하지 않습니다. 두 가지 데이터셋에 대한 실험을 통해 EchoTab이 다중 뷰 심초음파에서 진단 분류(classification) 성능을 향상시키는 효과적인 측정 기반 표현을 학습하며, 학습된 어텐션이 심장 전문의가 사용하는 기존의 측정-뷰 관계와 일치함을 입증합니다. 코드는 https://github.com/michelleespranita/EchoTab 에서 확인할 수 있습니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.
저자 비고
arXiv Comments
Code, benchmark resources, and model weights are available at https://github.com/AI-MIND-Lab/CineMR