QwenVLConnector: 세밀한 임상 지각과 텍스트 생성을 위한 빠르고 통합된 의료 VLM 챗봇
QwenVLConnector: A Fast, Unified Medical VLM Chatbot for Fine-Grained Clinical Perception and Text Generation
한국어 초록
대부분의 의료 비전-언어 모델(VLM)은 개방형 보고서 생성과 VQA에는 뛰어나지만, 통합된 인터페이스 안에서 구조화된 세밀한 임상 지각을 지원하는 데는 한계가 있다. 본 논문은 QwenVLConnector를 제안한다. 이는 Qwen2.5-VL 기반 의료 챗봇으로, 분류, 다중 레이블 분류, 텍스트화된 검출, 계수, 회귀, 자유 형식 보고서 생성을 단일 next-token 목표 아래 하나로 통합한다. 핵심 구성요소는 경량의 밀집 다층 Connector로, 저수준·고수준 시각 특징을 집계하고 사전학습된 vision Merger를 통해 정렬한 뒤, 시퀀스 길이를 늘리지 않고 최종 시각 표현과 융합한다. 이 설계는 효율성을 유지하면서 시각 토큰을 상보적인 공간·의미 단서로 풍부하게 한다. FLARE-2D에서 QwenVLConnector는 검출 F1을 0.55에서 0.85로 개선하고, 단일 레이블 분류를 0.37에서 0.51로 높이며, Qwen2.5-VL 기준선 대비 보고서 생성 GREEN을 최대 18.3점 향상시킨다. 또한 보고서 생성을 위한 멀티모달 문맥 내 학습(ICL)을 탐구하여, 모델 매개변수를 갱신하지 않고도 추가 개선을 보였다. 전반적으로 QwenVLConnector는 구조화된 의료 지각과 개방형 임상 텍스트 생성을 결합하는 통합적이고 효율적인 프레임워크를 제공한다. 코드는 https://github.com/plnguyen2908/QwenConnector 에서 확인할 수 있다.
원문 초록
Most medical vision-language models (VLMs) excel at open-ended report generation and VQA but provide limited support for structured, fine-grained clinical perception within a unified interface. We present QwenVLConnector, a Qwen2.5-VL-based medical chatbot that unifies classification, multi-label classification, textualized detection, counting, regression, and free-form report generation under a single next-token objective. Our key component is a lightweight dense multi-layer Connector that aggregates low- and high-level visual features, aligns them through the pretrained vision Merger, and fuses them with the final visual representation without increasing sequence length. This design enriches visual tokens with complementary spatial and semantic cues while preserving efficiency. On FLARE-2D, QwenVLConnector improves detection F1 from 0.55 to 0.85, raises single-label classification from 0.37 to 0.51, and boosts report-generation GREEN by up to 18.3 points over the Qwen2.5-VL baseline. We further explore multimodal in-context learning for report generation, showing additional improvements without updating model parameters. Overall, QwenVLConnector offers a unified and efficient framework for combining structured medical perception with open-ended clinical text generation. Our code can be found at https://github.com/plnguyen2908/QwenConnector.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2609.23139v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
LENS-GRF: 여드름 중증도 등급 분류 및 다중 평가자 임상 오라클 분석을 위한 게이트 잔차 융합 기반 순열 불변 병변 근거 네트워크
LENS-GRF: Permutation-Invariant Lesion Evidence Network with Gated Residual Fusion for Acne Severity Grading and Multi-Rater Clinical Oracle Analysis
EchoTab: 정형 데이터 재구성을 통한 심초음파 진단용 측정 기반 표현 학습
EchoTab: Learning Measurement-Grounded Representations for Echocardiographic Diagnosis through Tabular Reconstruction
심초음파와 같은 다중 뷰(multi-view) 의료 영상 검사에서 진단 정보는 여러 뷰에 분산되어 있으며, 각 뷰는 심장 구조와 기능의 서로 다른 측면을 포착합니다. 임상 현장에서는 이러한 뷰들을 먼저 정량적 측정을 통해 해석한 후, 이를 바탕으로 구체적인 진단을 내립니다. 그러나 기존의 심초음파 표현 학습 방법들은 뷰와 진단 사이의 중간 표현으로서 측정을 명시적으로 모델링하지 않습니다. 그 결과 개별 측정이 다운스트림 진단 태스크에서 선택적으로 활용할 수 있는 형태로 명시적 표현되지 않아 정확한 진단을 저해합니다. 이러한 계층적 임상 워크플로우에서 착안하여, 본 논문에서는 심초음파 뷰와 진단 사이의 중간 표현으로 측정별 토큰(measurement-specific token)을 활용해 다중 뷰 심초음파 검사를 표현하는 측정 기반(measurement-grounded) 표현 학습 프레임워크인 EchoTab을 제안합니다. 각 측정 토큰은 추정에 관련된 뷰에 선택적으로 어텐션(attention)하며, 해당 측정값을 예측하도록 정형 데이터 재구성(tabular reconstruction)을 통해 학습됩니다. 이렇게 도출된 토큰들은 임상적으로 유의미한 구조적 및 기능적 특성을 인코딩하는 요인화된(factorized) 심초음파 표현을 형성하여 다운스트림 진단에 선택적으로 활용될 수 있습니다. 흔히 사용되는 대조 학습 접근법과 달리 EchoTab은 네거티브 샘플이나 큰 배치(batch) 크기를 필요로 하지 않습니다. 두 가지 데이터셋에 대한 실험을 통해 EchoTab이 다중 뷰 심초음파에서 진단 분류(classification) 성능을 향상시키는 효과적인 측정 기반 표현을 학습하며, 학습된 어텐션이 심장 전문의가 사용하는 기존의 측정-뷰 관계와 일치함을 입증합니다. 코드는 https://github.com/michelleespranita/EchoTab 에서 확인할 수 있습니다.
약하게 주석된 바이오이미징 데이터를 위한 모델 무관 지식 증강 머신러닝
Model-agnostic Knowledge Augmented Machine Learning for Weakly Annotated Bioimaging Data
현미경 및 세포형태학 이미지와 같이 약하게 주석된(weakly annotated) 바이오이미징 데이터로부터 자동 특징 추출을 수행하기 위해 머신러닝 모델의 활용이 점차 증가하고 있습니다. 그러나 자동 특징 추출에만 전적으로 의존하기 때문에, 기존 기법들은 약하게 주석된 데이터셋 전반에서 일관되지 않은 분류 성능을 보입니다. 본 연구에서는 머신러닝 모델이 자동 특징 추출로 포착할 수 있는 범위를 넘어 도메인 지식을 활용할 수 있도록 지원하는 모델 무관(model-agnostic) 지식 증강 기법을 제안합니다. 제안된 접근 방식은 7가지 머신러닝 아키텍처 전반에서 분류 성능을 향상시킵니다. 마스크 오토인코더(MAE) 기반 자기지도학습과 통합했을 때 본 기법은 전반적으로 가장 강력한 성능을 달성하여, 3개의 사내 현미경 데이터셋에서 차순위 방식 대비 정밀도를 2.9% 향상시켰으며 3개의 공개 세포형태학 벤치마크에서는 평균 6.8% 향상시켰습니다. 본 연구에서는 인간 유도만능줄기세포 유래 운동 신경세포에 대한 세 가지 독립적인 현미경 데이터셋을 활용하여, 근위축성 측삭 경화증(ALS)과 연관된 표현형인 핵에서 세포질로의 TAR DNA 결합 단백질 43(TDP-43) 이소(mislocalization) 현상을 기반으로 세포핵 수준의 분류를 수행합니다. 대규모 환경에서 이 표현형을 정확히 정량화하는 것은 여전히 어려우며, 이는 연구 간 불일치를 초래하는 원인이 될 수 있습니다. 성능이 가장 우수한 모델을 이들 현미경 데이터셋에 적용한 결과, 프로테아좀 스트레스원인 MG132와 산화 스트레스원인 아비산나트륨(SA)이 TDP-43 이소에 미치는 농도 의존적 영향, 산발성 및 가족성 ALS 공여자의 운동 신경세포에서 나타나는 다양한 병리 양상, 그리고 약리학 화합물인 에다라본과 니클로사마이드가 SA 유도 TDP-43 이소에 대해 보호 효과를 제공하지 못한다는 점 등을 포함하여 ALS와 관련된 생물학적 해석을 도출했습니다. 종합적으로, 본 파이프라인은 생체 외(in-vitro) 세포 이미지 분석을 가능하게 하여 ALS 관련 병리와 잠재적 치료법에 대한 이해를 증진하는 데 기여합니다.
멀티모달 의사결정 모델이 유방 초음파 이미지를 분류할 수 있는가? 프롬프트와 데이터셋 전반에 걸친 CLEF 및 CLEF-Flash 벤치마킹
Can Multimodal Decision Models Classify Breast Ultrasound Images? Benchmarking CLEF and CLEF-Flash Across Prompts and Datasets
멀티모달 의사결정 모델은 사전에 정의된 대안들에 대한 확률을 반환하여 이미지 분류를 위한 구조화된 인터페이스를 제공한다. 본 연구는 Dataset B, BUSI, BUS-BRA에서 수집한 2818개의 유방 초음파 이미지에 대해 CLEF 및 CLEF-Flash를 사용한 추론을 벤치마킹한다. Dataset B와 BUS-BRA는 이진 양성-악성 분류를 사용하는 반면, BUSI는 정상, 양성, 악성 범주를 포함한다. 모델 파라미터는 변경하지 않은 채 유지되며, 원본 이미지는 사용자 정의 전처리 없이 입력된다. 세 가지 프롬프트는 최소한의 라벨, 명시적인 분류 태스크, 또는 초음파 검사 기준을 제공한다. 본 연구에서는 정확도, 매크로 F1, 균형 정확도, 매크로 정밀도, 처리량, 지연 시간을 보고한다. 임상 프롬프트를 적용한 CLEF-Flash는 세 데이터셋 모두에서 가장 높은 정확도를 달성하여 Dataset B에서 74.85%, BUSI에서 66.28%, BUS-BRA에서 51.63%를 기록했다. 그러나 BUSI에서는 태스크 유도 프롬프트를 적용한 CLEF가 가장 높은 매크로 F1(64.51%)과 균형 정확도(68.72%)를 달성했다. CLEF-Flash는 일치 조건으로 비교한 모든 경우에서 더 낮은 지연 시간을 보였다. 임상 지침 프롬프트는 최소 프롬프트 대비 CLEF-Flash의 정확도를 향상시켰으나, 모든 데이터셋에서 CLEF의 정확도는 감소시켰다. 혼동 행렬을 통해 양성을 악성으로 오분류하는 오류가 빈번함을 확인했으며, 특히 BUS-BRA에서는 모든 구성이 다수 클래스 예측기의 정확도인 67.63%에 미치지 못했다. 이러한 결과는 성능이 데이터셋과 프롬프트에 따라 달라짐을 보여주며, 유방 초음파 분석에 멀티모달 의사결정 모델을 적용하기 전에 클래스별 평가가 선행되어야 함을 시사한다.
알츠하이머병 연구의 진단 및 진행 예측을 위한 정보 누출 제어 다중 모달 학습
Leakage-Controlled Multimodal Learning for Diagnosis and Progression Prediction in Alzheimer's Disease Research
알츠하이머병(Alzheimer's disease) 예측은 불규칙한 방문 주기, 이종의 측정값, 불완전한 모달리티 문제를 수반합니다. 본 연구에서는 맞춤형 SFCN MRI 인코더, 4개의 인과적 임상 트랜스포머(clinical Transformer), 공유 융합 모듈, 과업별 ODE-GRU 역학을 결합한 다중 모달 다중 과업(multimodal multitask) 프레임워크를 제안합니다. 미세조정(fine-tuning)과 LoRA를 적용해 마지막 두 개의 MRI 블록을 적응시킵니다. Task-DRO는 과업 간 손실의 균형을 맞추며, Group-CVaR은 코호트 및 동반 질환 계층을 목표로 합니다. 브랜치별 입력 제어, 피험자 그룹화 분할, 경험적 인과성 검증을 통해 종단적 평가를 지원합니다. ADNI, OASIS-2, MIRIAD의 2,649명 피험자와 17,317회 방문 데이터를 기반으로 한 내부 검증에서, 진단, 1단계 진행, 첫 1단계 방문 진행의 AUROC는 각각 0.935 +/- 0.002, 0.884 +/- 0.003, 0.870 +/- 0.005를 기록했습니다(3개 시드에 대한 평균 +/- 표준편차). 상응하는 하이브리드 AUROC는 각각 0.951, 0.909, 0.896입니다. 다음 방문 시점의 MMSE 평균 절대 오차(MAE)는 1.61점이며, 최하위 계층의 진단 AUROC는 0.827 +/- 0.008입니다. 샘플링된 ADNI 설명 분석을 통해 과업별 입력 의존성을 식별했습니다. OASIS-3 외부 검증에서는 네트워크 및 하이브리드 진단 AUROC가 각각 0.763과 0.767, 하이브리드 다음 방문 진행 AUROC가 0.764를 기록했고, 진단 캘리브레이션 오차는 0.197에서 0.052로 감소했으며, 다음 방문 MMSE MAE는 0.86을 나타냈습니다. 시드 42에 대한 6개 구성 요소의 대응 절제 연구(ablation study) 결과, 풀링된 진단 및 진행 AUROC 차이는 -0.004에서 +0.004 사이로 나타났으며, 임상 인코더 입력을 제거하면 진단 AUROC가 0.272 감소했습니다. 본 프레임워크는 종단적 예측, 결측 모달리티 처리, 보조 동반 질환 모델링, 하위 그룹 평가를 단일 파이프라인 내에 통합합니다.
대비 향상인가 노이즈 감소인가? 자궁경부암 분류 성능 개선에 대한 고찰
Contrast Enhancement or Noise Reduction? On Improving Cervical Cancer Classification
목적: 자궁경부암은 전 세계적으로 주요 사망 원인 중 하나입니다. 심층 학습(deep learning)은 의료 이미지 분류에서 유망한 성능을 보여주었습니다. 이미지 전처리 알고리즘이 분류 성능에 미치는 영향은 기존 문헌에서 충분히 조사되지 않았습니다. 본 연구는 팹도말(Pap smear) 이미지 분류를 위한 CNN의 성능에 이미지 전처리 알고리즘이 미치는 영향을 평가하는 것을 목표로 합니다. 방법: SIPaKMeD 데이터셋을 사용하여 세 가지 CNN 아키텍처(ResNet-34, MobileNet-V2, DenseNet-121)를 학습하고 평가했습니다. 두 가지 전처리 알고리즘이 적용되었습니다: 노이즈 감소를 위한 PMD 필터와 대비 향상(contrast enhancement)을 위한 CLAHE입니다. 모델 성능은 혼동 행렬을 사용하여 평가되었습니다. 결과: 전처리는 모든 모델의 분류 성능을 향상시켰습니다. CLAHE는 ResNet-34의 정확도를 76.73%에서 84.16%로, DenseNet-121의 정확도를 76.73%에서 84.16%로 크게 향상시켰습니다. PMD 필터는 제한적인 개선만을 보였으며 MobileNet-V2 성능을 약간 저하시켰습니다. 독창성: 본 연구는 여러 CNN 아키텍처 전반에 걸쳐 대비 향상과 노이즈 감소 기법에 대한 체계적인 비교를 제공합니다. 본 연구는 CNN 성능을 향상시키는 데 대비 향상이 노이즈 감소보다 더 효과적임을 입증합니다. 또한 본 연구는 자궁경부암 분류를 개선하기 위한 새로운 파이프라인을 제공합니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.