arXiv:2304.13725

Prediction of brain tumor recurrence location based on multi-modal fusion and nonlinear correlation learning

Tongxue Zhou, Alexandra Noeuveglise, Romain Modzelewski, Fethi Ghazouani, Sébastien Thureau, Maxime Fontanilles, Su Ruan

제출 2023-04-11

원문 초록

Brain tumor is one of the leading causes of cancer death. The high-grade brain tumors are easier to recurrent even after standard treatment. Therefore, developing a method to predict brain tumor recurrence location plays an important role in the treatment planning and it can potentially prolong patient's survival time. There is still little work to deal with this issue. In this paper, we present a deep learning-based brain tumor recurrence location prediction network. Since the dataset is usually small, we propose to use transfer learning to improve the prediction. We first train a multi-modal brain tumor segmentation network on the public dataset BraTS 2021. Then, the pre-trained encoder is transferred to our private dataset for extracting the rich semantic features. Following that, a multi-scale multi-channel feature fusion model and a nonlinear correlation learning module are developed to learn the effective features. The correlation between multi-channel features is modeled by a nonlinear equation. To measure the similarity between the distributions of original features of one modality and the estimated correlated features of another modality, we propose to use Kullback-Leibler divergence. Based on this divergence, a correlation loss function is designed to maximize the similarity between the two feature distributions. Finally, two decoders are constructed to jointly segment the present brain tumor and predict its future tumor recurrence location. To the best of our knowledge, this is the first work that can segment the present tumor and at the same time predict future tumor recurrence location, making the treatment planning more efficient and precise. The experimental results demonstrated the effectiveness of our proposed method to predict the brain tumor recurrence location from the limited dataset.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2609.23919v1eess.IV공통 태그 Transfer Learning, Brain Tumor Segmentation

VGG16-MCA UNet: 디코더 측 채널 어텐션을 활용한 2D FLAIR MRI 전체 종양 분할

VGG16-MCA UNet: Whole-Tumor Segmentation in 2D FLAIR MRI with Decoder-Side Channel Attention

자동 뇌종양 분할(segmentation)은 진단, 치료 계획 수립, 질병 진행 모니터링을 지원하지만, 이질적인 종양과 제한된 주석 데이터 전반에 걸쳐 일반화되는 모델을 구축하는 것은 여전히 어려운 과제이다. 본 논문에서는 ImageNet으로 사전학습(pre-training)된 VGG16 인코더와, 각 스킵 연결(skip-connection) 융합 이후 다중 채널 어텐션(Multi-Channel Attention, MCA) 모듈이 특징을 재보정하는 디코더를 결합한 하이브리드 아키텍처인 VGG16-MCA UNet을 제안한다. 이 모델은 심각한 전경-배경 불균형에 대응하기 위해 Focal Tversky 손실(loss)로 학습된다. 본 모델은 BraTS 2020 벤치마크와 LGG MRI Segmentation 데이터셋(dataset)이라는 두 개의 공개 데이터셋에서 종양이 존재하는 슬라이스를 대상으로, 2D, FLAIR 단일 시퀀스 전체 종양 분할기로서 평가된다. 5겹 교차 검증(cross-validation)과 다섯 개 폴드(fold) 모델의 가중치를 평균하여 형성한 단일 네트워크를 사용하여, 본 방법은 홀드아웃(held-out)한 BraTS 2020 분할(split)에서 95.10%, LGG에서 88.32%의 집계 픽셀 수준 Dice(F1) 점수를 달성하였다. 이 점수는 사례별로 평균을 낸 것이 아니라 모든 테스트 픽셀을 단일 혼동 행렬(confusion matrix)로 통합하여 계산된 것이므로, BraTS 챌린지 프로토콜에서 사용하는 사례별 평균 Dice와 직접 비교할 수 없다. 모든 분할(partition)은 환자 단위가 아니라 개별 슬라이스 단위로 나뉘었으므로, 모든 환자가 학습과 테스트 양쪽에 슬라이스를 제공한다. 따라서 위의 수치는 이미 알려진 환자 내에서의 보간(interpolation)을 측정한 것이며, 새로운 환자에 대한 일반화가 아니라 상한선(upper bound)으로 해석되어야 한다. 본 모델은 6GB NVIDIA RTX 2060 단일 GPU에서 256x256 슬라이스를 66.32ms에 분할하며, 이는 MCA가 없는 동등한 VGG16-UNet보다 약 8ms 더 긴 시간이다. 우리는 정확하게 명시되고 재현 가능한 2D FLAIR 기준선(baseline)을 제공하기 위해, 분할(split) 기록을 공개하고 프로토콜을 전체적으로 보고한다.

arXiv:2609.07780v3cs.CV공통 태그 Transfer Learning

DroneGround: 합성 데이터와 그라운디드 비전-언어 모델을 활용한 오픈 보캐블러리 드론 탑재체 특성 분석

DroneGround: Open-Vocabulary Drone Payload Characterization Using Synthetic Data and Grounded Vision-Language Models

자동화된 드론 감시는 공공 안전, 중요 인프라 보호 및 제한 공역 모니터링을 위해 점점 더 중요해지고 있습니다. 기존의 비전 기반 시스템은 드론 탐지 및 추적에서 뛰어난 성능을 달성하지만, 원거리 촬영 조건에서는 주석이 달린 실제 데이터셋의 부족과 배포 시 직면하는 상당한 분포 변화(distribution shift)로 인해 신뢰할 수 있는 탑재체(payload) 특성 분석이 여전히 매우 어려운 과제로 남아 있습니다. 기존 접근법들은 탑재체 특성 분석을 닫힌 집합(closed-set) 객체 검출 문제로 정식화하여, 이전에 보지 못한 탑재체를 인식하고 학습 분포를 넘어 일반화하는 능력을 제한합니다. 이러한 문제를 해결하기 위해, 본 논문에서는 Unreal Engine 5와 Cosys-AirSim을 사용하여 사실적인(photorealistic) 합성 드론-탑재체 데이터셋을 생성하고, 강력한 오픈 보캐블러리(open-vocabulary) 탑재체 분석을 위한 2단계 프레임워크인 DroneGround(Grounded Vision-Language Payload Characterization)를 제안합니다. DroneGround는 먼저 YOLO26s 검출기를 사용하여 드론의 위치를 특정하고 드론 중심의 이미지 크롭을 추출한 다음, LoRA 파인튜닝된 PaliGemma 비전-언어 모델을 활용해 탐지된 드론 및 부착된 탑재체에 대한 시맨틱 설명을 생성함으로써 사전에 정의된 범주를 넘어서는 오픈 보캐블러리 탑재체 특성 분석을 가능하게 합니다. 또한 폐색 기반 그라운딩(grounding) 모듈은 생성된 설명에 기여하는 이미지 영역을 식별하여 해석 가능한 탑재체 위치 추정 기능을 제공합니다. 합성 및 실제 드론 영상 모두에 대한 광범위한 실험을 통해 DroneGround가 합성-실제(synthetic-to-real) 분포 변화 하에서 견고성을 크게 향상시켜 F1-점수를 82.5%에서 96.3%로 높여 기존의 닫힌 집합 탑재체 검출기를 능가하는 동시에, 이전에 보지 못한 탑재체 범주에 대해서도 훨씬 더 우수한 일반화 성능(F1 80.4% 대 42.7%)을 달성함을 입증합니다. 데이터셋과 코드는 요청 시 공개될 예정입니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.