arXiv:2308.14626

VesselShot: Few-shot learning for cerebral blood vessel segmentation

Mumu Aktar, Hassan Rivaz, Marta Kersten-Oertel, Yiming Xiao

제출 2023-08-28

원문 초록

Angiography is widely used to detect, diagnose, and treat cerebrovascular diseases. While numerous techniques have been proposed to segment the vascular network from different imaging modalities, deep learning (DL) has emerged as a promising approach. However, existing DL methods often depend on proprietary datasets and extensive manual annotation. Moreover, the availability of pre-trained networks specifically for medical domains and 3D volumes is limited. To overcome these challenges, we propose a few-shot learning approach called VesselShot for cerebrovascular segmentation. VesselShot leverages knowledge from a few annotated support images and mitigates the scarcity of labeled data and the need for extensive annotation in cerebral blood vessel segmentation. We evaluated the performance of VesselShot using the publicly available TubeTK dataset for the segmentation task, achieving a mean Dice coefficient (DC) of 0.62(0.03).

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2607.13372v1cs.CL공통 태그 Segmentation, Few-Shot Learning

POS 티어는 저자원 언어 문서화 자동 주석의 핵심: 남부 류큐어인 이라부를 위한 신경망 행간 글로스화

A POS Tier Is the Key to Automated Annotation for Low-Resource Language Documentation: Neural Interlinear Glossing for Irabu, a Southern Ryukyuan Language

담화 데이터는 현장 언어학에서 문법 기술의 주요 경험적 토대이지만, 행간 정렬 텍스트를 생성하는 것은 1분 분량의 녹음당 약 1시간의 작업이 필요할 정도로 비용이 매우 큰 것으로 잘 알려져 있다. 멸종 위기 언어의 경우 원어민과 분석을 검증할 수 있는 남은 시간 자체가 제한적이므로, 행간 정렬화 워크플로의 일부를 자동화하는 것은 직접적인 문서화 가치를 갖는다. 우리는 의도적으로 작고 투명한 BiLSTM-CRF 모델을 사용하여 이라부 류큐어에 대한 형태소 분절, 품사(POS) 태깅, 글로스화를 포함한 완전한 신경망 주석 파이프라인을 구현하고, 약 1시간 분량의 완전히 주석된 담화를 전체 지도 학습 자원으로 하는 현실적인 엄격한 제약 하에서 이를 평가한다. 주석 자체의 두 요인을 조작한다: 풍부성(POS 티어 유무)과 양(6분부터 47분까지의 학습 예산). 정답 POS는 문법적 글로스화를 +4.4(SD 0.7)점 향상시키며(5개 시드 모두에서 유의), 데이터가 줄어들수록 이 이득은 커진다(데이터의 4분의 1일 때 +11.6점); POS 티어는 특정 정확도에 도달하는 데 필요한 글로스화된 데이터의 양을 절반 이상 줄인다. 완전 자동 파이프라인에서는 이 이득이 아직 실현되지 않는다: 태거는 여전히 형태소의 12%에서 오류를 내며, 잘못된 POS는 POS 정보가 전혀 없는 것보다 글로스화 모델을 더 오도한다. 가치는 소실된 것이 아니라 잠재되어 있다: 정답 POS에 통제된 노이즈를 가하여 품질을 저하시키면 태거 정확도가 올라갈수록 이득이 회복되는 것으로 나타나며, 손익분기점은 현재 태거의 88% 부근이고 92–96%에서는 +1.6~+3.2점이 회복된다. 우리는 문서화 관행에 대한 구체적 권고로 결론을 내린다: 텍스트, POS, 글로스, 번역의 사중 행간 주석을 달 것.

arXiv:2607.12987v2cs.CV공통 태그 Segmentation, Few-Shot Learning

공정하고 효율적인 악성 분류를 위한 다양한 피부과 영상의 제어 가능한 생성

Controllable Generation of Diverse Dermatological Imagery for Fair and Efficient Malignancy Classification

정확한 피부과 진단은 자연스럽게 다양한 인구 집단에 걸친 공평한 성능을 필요로 하지만, 특히 대표성이 낮은 피부 톤과 희귀 질환에 대한 전문가 주석 이미지의 체계적 부족은 측정 가능하게 공정한 방법으로의 진전을 저해한다. 우리는 cgDDI(Controllable Generation of Diverse Dermatological Imagery)를 소개한다. 이는 (1) 다른 입력 속성을 방해하지 않고 사실적인 건강한 피부 샘플을 합성하고, (2) 단일 샘플 희귀 병변을 새로운 피부 톤과 위치에 비모수적으로 매핑하며, (3) 단 10개의 학습 샘플만으로도 효율적인 모수적 생성을 가능하게 하는 하이브리드 프레임워크이다. 이 프레임워크는 사람과 자동 분할 마스킹(segmentation masking)을 모두 지원하여, 사전에 만들어진 병변 마스크가 없는 데이터셋으로도 확장 가능하게 한다. 우리는 656장 이미지 데이터셋을 400배 이상 확장하고, 생검으로 확인된 Diverse Dermatology Images(DDI)와 전문가가 검증한 Fitzpatrick17k(F17k) 두 데이터셋에서 검증한다. DDI 벤치마크에서 합성 데이터만으로 학습한 경우 86.4%의 악성 분류 정확도를, 실제 데이터 미세조정과 함께 90.9%의 최신(state-of-the-art) 성능을 달성했으며, 공정성 지표에서도 선두 수준의 결과를 보였다. 교차 데이터셋 실험에서는 질병 중복이 거의 없음에도 불구하고, 보지 못한 F17k 데이터에서 +13.9%의 정확도 향상을 보였다. 공정성 연구를 더욱 지원하기 위해 26만 6천 개 이상의 합성 이미지, 코드, 생성 모델을 https://github.com/hectorcarrion/ControllableGenDDI 에서 공개한다.

arXiv:2607.09082v1cs.CV공통 태그 Segmentation, Few-Shot Learning

REBASE: 학습 없는 인컨텍스트 분할을 위한 참조-배경 부분공간 제거

REBASE: Reference-Background Subspace Elimination for Training-Free In-Context Segmentation

학습 없는(training-free) 인컨텍스트 분할(in-context segmentation)은 단일 어노테이션된 참조 이미지로부터 추론 시점에 새로운 객체 카테고리를 도입할 수 있게 하여, 클래스 증분 학습(class-incremental learning)의 재학습 및 메모리 오버헤드를 제거한다. 최근 접근 방식은 의미론적 대응(semantic correspondence)을 위한 비전 파운데이션 모델과 SAM과 같은 프롬프터블(promptable) 분할 네트워크를 결합하여 이를 달성한다. 그러나 이들의 성능은 근본적으로 이미지 간 유사도 맵의 품질에 의해 제한된다. 참조 이미지와 쿼리 이미지 간에 공유되는 문맥적 배경이 비목표 영역의 유사도를 체계적으로 높여 프롬프트 위치 지정을 저하시킨다. 우리는 이러한 허위 문맥적 대응을 명시적으로 억제하는 학습 없는 프레임워크인 REBASE를 제안한다. 본 방법은 참조 이미지에서 저랭크 배경 특징 부분공간을 식별하고, 참조 및 쿼리 특징을 닫힌 형태(closed form)로 그 직교 여공간(orthogonal complement)에 투영하여 더 깔끔한 의미론적 매칭을 도출한다. 이후 정제된 밀집 유사도 사전 정보와 결합된 유사도 가중 최원점 샘플링(farthest-point sampling)을 사용하여 양성 포인트 프롬프트를 생성한다. 어떠한 학습이나 매개변수 업데이트 없이, 본 접근법은 PACO-Part, FSS-1000, ISIC2018과 같은 크로스 도메인 데이터셋에서 학습 없는 방법들 중 새로운 최첨단 성능을 달성하며, 명시적 배경 부분공간 제거가 원샷 위치 지정에 매우 효과적인 원칙임을 입증한다.

arXiv:2607.05171v2cs.CL공통 태그 Few-Shot Learning

RABBiT: 뇌-튜닝을 통한 빠른 적응형 BOLD 기반 모델로 음성 유발 뇌 반응의 정확한 제로샷 및 퓨샷 예측

RABBiT: Rapidly adaptive BOLD foundation model via brain-tuning for accurate zero-shot and few-shot prediction of speech-elicited responses in the brain

뇌에서의 언어 이해는 맥락 의존적이며, 실험 자극과 개인에 따라 달라지기 때문에 두 가지 모두에 걸쳐 일반화되는 계산 모델을 구축하기 어렵다. 이는 새로운 참가자와 입력에 효율적으로 적응하면서 공유 구조를 포착할 수 있는 언어 유발 뇌 활동의 기반 모델(foundation model)을 필요로 한다. 우리는 정확한 제로샷 및 퓨샷 예측을 위해 설계된 소형 오디오-fMRI 인코더인 RABBiT(Rapidly Adaptive BOLD foundation model via BraIn-Tuning)을 소개한다. 여러 미공개 fMRI 데이터셋에서 324명의 참가자를 대상으로 한 종합적인 평가에 따르면, RABBiT은 청각 및 언어 선택 영역에 걸쳐 자연 음성에 대한 fMRI 반응의 정확한 제로샷 예측을 가능하게 하며, fMRI를 위한 SOTA 기반 모델과 집단 평균 기반 예측을 능가한다. 참가자별 데이터 10분만으로도 RABBiT은 매개변수 효율적 튜닝을 통해 성능을 더욱 향상시키며, 참가자별 선형 모델을 크게 능가한다. RABBiT의 성능은 두 가지 핵심 혁신에 의해 구현된다: (1) 학습된 영역별 어텐션, (2) 뇌-튜닝된 음성 백본과 결합된, 뇌 반응을 공유 및 피험자별 구성 요소로 분해하는 방법. 강력한 예측 정확도를 지원하는 것 외에도, RABBiT이 학습하는 구조화된 영역별 표현은 해석 가능성을 제공한다. 광범위한 참가자별 데이터와 모델 피팅의 필요성을 제거함으로써, RABBiT은 인간 뇌에서의 언어에 대한 확장 가능한 집단 수준 분석을 가능하게 한다. 코드는 https://github.com/bridge-ai-neuro/rabbit 에서 제공된다.

arXiv:2607.07984v2cs.AI공통 태그 Segmentation

에이전틱 신경망 구조 탐색

Agentic Neural Architecture Search

신경망 구조 탐색(NAS) 방법은 점점 더 효율적으로 발전해 왔지만, 여전히 도메인 전문 지식이 필요하고 새로운 과제마다 다시 구축해야 하는 수작업 설계 탐색 공간 안에서 동작한다. 대규모 언어 모델(LLM)은 개방형 코드 공간에서 아키텍처를 작성할 수 있으나, LLM 기반 설계와 NAS 기반 탐색 사이에 작업을 어떻게 분담해야 하는지는 불분명하다. 우리는 이 둘을 결합하는 방법을 제안한다. LLM이 먼저 시드 아키텍처를 설계한 뒤 이를 슬롯형 아키텍처로 분해한다. 슬롯형 아키텍처는 이름이 붙은 교체 가능한 모듈 슬롯을 가진 골격으로, 과제별로 제한된 탐색 공간을 정의하며, 기존 NAS 알고리즘이 수작업 없이 이를 탐색한다. 우리는 이를 각 단계를 별도로 평가할 수 있는 3단계 파이프라인인 AgentNAS로 구현한다. 분류, 밀집 회귀, 분할, 다중 레이블 태깅을 포괄하는 NAS-Bench-360과 Unseen NAS의 17개 과제에서 AgentNAS는 과제별 전문가 설계를 포함한 공개된 기준선을 11개 과제에서 능가한다. 광범위한 제거 연구는 LLM이 강력한 아키텍처를 빠르게 찾지만 곧 정체되며, 이 시점에 NAS로 전환하면 추가 이득을 얻음을 보여 주어 두 접근법이 상호 보완적임을 시사한다. 다섯 개의 LLM을 이용한 실험은 시드 아키텍처 설계가 모든 LLM에서 효과적인 반면, 사용 가능한 탐색 공간을 구성하려면 최소 수준의 모델 능력이 필요함을 보여 준다. 코드는 https://github.com/alroimfebruary/AgentNAS 에서 이용할 수 있다.

arXiv:2607.04926v2cs.LG공통 태그 Few-Shot Learning

입력 경로는 소형 트랜스포머의 퓨샷 바인딩을 형성하지만 제로샷은 아니다: 완전 열거 가능한 연구

Input Pathways Shape Few-Shot, Not Zero-Shot, Binding in Tiny Transformers: A Fully-Enumerable Study

정보가 트랜스포머에 도달하는 방식, 즉 기호 토큰, 요인별로 깔끔한 "오라클" 코드, 또는 얽힌 지각 벡터 중 어느 방식인지가 트랜스포머가 그 정보를 조합적으로 결합(binding)하는지 여부를 어떻게 좌우하는가? 본 연구는 전수 열거된 유한 요인 세계에서 약 6~10K 파라미터의 트랜스포머를 연구하며, 따라서 모든 측정이 입력 공간 전체를 포괄하고 정보를 담은 경로들은 정보량이 일치한다(정확한 베이즈 상한 1.0). 네 가지 발견이 있다. (1) 종점 불변성: 보류된 결합 질의에서 어떤 정보 경로도 수렴된 제로샷 합성에 도달하지 못하며, 각 경로는 우연 수준 이하에서 끝난다. 따라서 이 실패는 정보 부족이 아니라 룩업만으로 충분한 목적함수 하에서의 귀납 편향을 반영한다. 이는 상태를 모든 토큰에 더하지 않고 고유한 시퀀스 위치에 두어도 마찬가지이다. (2) 가독성이 퓨샷 결합을 좌우한다: 보류된 유형의 작은 일부를 학습에 유출시키면 표본 효율이 코드의 가독성을 따른다. 가독성이 가장 낮은 얽힌 코드가 가장 나쁘며(통합 -0.147, 두 방식 모두), 차원을 맞춘 대조군과 단계적 가독성 스윕으로 가독성을 입력 차원과 분리하였다. (3) 경로가 아니라 주입 위치가 결정한다: v1은 가독성이 있는 경로들 사이에 남은 순서를 경로 파라미터 공유로 해석하였으나, 이는 철회한다. 비교된 경로들은 블록 분해가 가능하여 하나의 함수 클래스에 속하므로 공유는 애초에 조작된 적이 없으며, 이 순서는 브로드캐스트로 더해지는 상태의 초기화 스케일에서 비롯되고 상태에 고유한 위치를 부여하면 사라진다(+0.057 -> -0.006, 셀당 20개 쌍체 시드). (4) 실패의 해부: 기호 경로는 읽어내는 단계에서 답을 잃고, 인덱스 경로는 잘못 결합한다. 즉 답은 여전히 디코딩 가능하지만 입력 개입을 통해 보면 출력이 엉뚱한 슬롯을 따라간다. 핵심적인 긍정적 주장은 가독성이며, 나머지는 경로 비교로 확립할 수 있는 범위를 한정한다. 코드, 매니페스트, 시드별 로그를 공개한다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.