arXiv:1702.03407

Reverse Classification Accuracy: Predicting Segmentation Performance in the Absence of Ground Truth

Vanya V. Valindria, Ioannis Lavdas, Wenjia Bai, Konstantinos Kamnitsas, Eric O. Aboagye, Andrea G. Rockall, Daniel Rueckert, Ben Glocker

제출 2017-02-11

원문 초록

When integrating computational tools such as automatic segmentation into clinical practice, it is of utmost importance to be able to assess the level of accuracy on new data, and in particular, to detect when an automatic method fails. However, this is difficult to achieve due to absence of ground truth. Segmentation accuracy on clinical data might be different from what is found through cross-validation because validation data is often used during incremental method development, which can lead to overfitting and unrealistic performance expectations. Before deployment, performance is quantified using different metrics, for which the predicted segmentation is compared to a reference segmentation, often obtained manually by an expert. But little is known about the real performance after deployment when a reference is unavailable. In this paper, we introduce the concept of reverse classification accuracy (RCA) as a framework for predicting the performance of a segmentation method on new data. In RCA we take the predicted segmentation from a new image to train a reverse classifier which is evaluated on a set of reference images with available ground truth. The hypothesis is that if the predicted segmentation is of good quality, then the reverse classifier will perform well on at least some of the reference images. We validate our approach on multi-organ segmentation with different classifiers and segmentation methods. Our results indicate that it is indeed possible to predict the quality of individual segmentations, in the absence of ground truth. Thus, RCA is ideal for integration into automatic processing pipelines in clinical routine and as part of large-scale image analysis studies.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2607.07984v2cs.AI공통 태그 Segmentation

에이전틱 신경망 구조 탐색

Agentic Neural Architecture Search

신경망 구조 탐색(NAS) 방법은 점점 더 효율적으로 발전해 왔지만, 여전히 도메인 전문 지식이 필요하고 새로운 과제마다 다시 구축해야 하는 수작업 설계 탐색 공간 안에서 동작한다. 대규모 언어 모델(LLM)은 개방형 코드 공간에서 아키텍처를 작성할 수 있으나, LLM 기반 설계와 NAS 기반 탐색 사이에 작업을 어떻게 분담해야 하는지는 불분명하다. 우리는 이 둘을 결합하는 방법을 제안한다. LLM이 먼저 시드 아키텍처를 설계한 뒤 이를 슬롯형 아키텍처로 분해한다. 슬롯형 아키텍처는 이름이 붙은 교체 가능한 모듈 슬롯을 가진 골격으로, 과제별로 제한된 탐색 공간을 정의하며, 기존 NAS 알고리즘이 수작업 없이 이를 탐색한다. 우리는 이를 각 단계를 별도로 평가할 수 있는 3단계 파이프라인인 AgentNAS로 구현한다. 분류, 밀집 회귀, 분할, 다중 레이블 태깅을 포괄하는 NAS-Bench-360과 Unseen NAS의 17개 과제에서 AgentNAS는 과제별 전문가 설계를 포함한 공개된 기준선을 11개 과제에서 능가한다. 광범위한 제거 연구는 LLM이 강력한 아키텍처를 빠르게 찾지만 곧 정체되며, 이 시점에 NAS로 전환하면 추가 이득을 얻음을 보여 주어 두 접근법이 상호 보완적임을 시사한다. 다섯 개의 LLM을 이용한 실험은 시드 아키텍처 설계가 모든 LLM에서 효과적인 반면, 사용 가능한 탐색 공간을 구성하려면 최소 수준의 모델 능력이 필요함을 보여 준다. 코드는 https://github.com/alroimfebruary/AgentNAS 에서 이용할 수 있다.

arXiv:2606.20812v2cs.LG공통 태그 General Classification

B[FM]²: 플로우 매칭과 SplitUNet을 활용한 뇌 파운데이션 모델

B[FM]$^2$: Brain Foundation Model via Flow Matching with SplitUNet

EEG 파운데이션 모델은 대규모 EEG 코퍼스로부터 일반화 가능한 표현을 학습하여 다양한 임상 및 뇌-컴퓨터 인터페이스 과제 전반에서 단일 백본 전이를 가능하게 한다. 기존 모델은 일반적으로 연속적인 다채널 EEG 파형을 패치나 코드북 토큰으로 이산화하고 마스크 자기지도 학습으로 트랜스포머를 훈련한다. 이러한 이산화가 연속적인 뇌 리듬을 파편화하고 세밀한 시간적 동역학을 가린다는 점을 인식하여, 우리는 패치, 토큰화, 마스킹 없이 연속 시간 플로 매칭을 사용해 원시 신호로 직접 사전 학습함으로써 귀납적 편향을 데이터와 일치시키는 B[FM]$^2$(Brain Foundation Model via Flow Matching)를 제시한다. 그러나 다채널 EEG 신호는 플로 매칭에 구조적 난제를 제기한다. 시간 축은 조밀하게 샘플링되고 자기상관이 높은(수천 개의 시점) 반면, 전극 축은 서로 다른 두피 위치의 짧은(수십 개의 채널) 축이다. 이러한 시간-전극 비대칭을 해결하기 위해 우리는 각 블록을 별도의 1D 시간 합성곱과 1D 전극 합성곱으로 분해하고 시간 축으로만 다운샘플링하여 계층 전체에서 전극 위상을 보존하는 속도 네트워크인 SplitUNet을 도입한다. B[FM]$^2$는 단 $36{,}895$개 세그먼트($\approx$ 307시간)의 사전 학습 예산, 즉 기존 EEG 파운데이션 모델이 요구하는 양보다 1~2자릿수($\approx$ 30배) 적은 예산으로 표준 하위 EEG 분류 과제 9개 중 7개에서 새로운 최고 성능을 달성한다. 또한 두 명의 전문의 자격을 갖춘 신경과 의사가 실제 뇌 데이터와 구별하지 못하는 합성 EEG를 생성한다(Cohen's $\kappa = -0.096$). https://jd730.github.io/projects/BFM2

arXiv:2610.15929v1cs.CV공통 태그 Segmentation

트래커가 실패할 때: 강건한 비디오 객체 분할을 위한 VLM 유도 검증 및 복구

When Trackers Fail: VLM-Guided Verification and Recovery for Robust Video Object Segmentation

SAM(Segment Anything Model)과 같은 파운데이션 모델을 기반으로 구축된 최근의 트래커들은 메모리를 통해 객체 마스크를 전파함으로써 뛰어난 성능을 달성합니다. 그러나 이러한 장점은 동시에 주요 실패 원인이 되기도 합니다. 가림, 재등장, 방해 요소가 발생하는 상황에서 잘못된 예측이 추적 루프에 유입되어 시간에 따라 전파되면 지속적인 아이덴티티 드리프트(identity drift)가 발생할 수 있습니다. 기존 접근법들은 개선된 메모리 및 시간 모델링을 통해 이러한 실패를 방지하고자 하지만, 일단 실패가 발생하면 트래커에는 이를 인식하거나 수정할 수 있는 명시적인 메커니즘이 없습니다. 본 논문에서는 명시적인 검증 및 복구를 통해 전파 과정을 보완하는 실패 인지형 추적 프레임워크인 Dual-Agent로 이러한 간극을 해결합니다. 본 논문에서는 명시적인 검증 및 복구를 통해 전파 과정을 보완하는 실패 인지형 추적 프레임워크인 Dual-Agent로 이러한 간극을 해결합니다. 먼저 비전-언어(vision-language) 검증 에이전트가 시공간적 컨텍스트를 추론하여 트래커가 여전히 대상을 추적하고 있는지 판단합니다. 실패가 감지되면, 수정 에이전트가 시간적 컨텍스트를 활용하여 추적이 계속되기 전에 대상을 복구합니다. 수정 에이전트는 실제 SAM3 실패 사례를 바탕으로 학습되었으며, 복구 과정에서 까다로운 모호성에 노출되도록 목표 지향적 아이덴티티 전환 및 방해 요소 섭동을 적용하여 증강되었습니다. LVOS-v2 및 SecVOS에서 Dual-Agent는 SAM3의 성능을 각각 1.2 및 2.7 $J\&F$ 향상시킵니다. 중요한 점은 제안된 프레임워크가 재학습 없이도 SAM2.1, SeC, Cutie뿐만 아니라 LaSOT-ext, TNL2K, VOT-LT2022를 포함한 장기 비디오 객체 추적 벤치마크로 전이된다는 것입니다. 우리의 결과는 추적이 언제 실패하고 어떻게 복구할 것인지를 명시적으로 추론하는 것이 단순히 전파 성능을 개선하는 것을 넘어 강건한 추적을 달성하기 위한 상호보완적인 경로를 제공함을 보여줍니다. 프로젝트 페이지: valaybundele.github.io/Dual-Agent.

arXiv:2610.13925v1cs.CV공통 태그 Segmentation

기계는 비언어적으로 추론할 수 있는가?

Can machines reason non-verbally?

현대 기계는 방정식을 풀고 논리를 따르며 언어를 통해 추론할 수 있지만, 시각적 비언어적 추론이 필요한 문제에서는 여전히 어려움을 겪고 있습니다. 이는 추상적 패턴 완성이나 모호한 관심 영역(ROI) 묘사와 같은 시각적 과제에서 여전히 한계를 보이는 DeepSeek, ChatGPT, Gemini와 같은 첨단 시스템에서도 뚜렷하게 나타납니다. 논리나 자동화된 테스트를 통해 검증할 수 있는 언어적 추론의 명시적인 중간 단계와 달리, 시각적 추론은 명확한 검증 방법이 없는 암묵적인 중간 단계를 수반합니다. 따라서 비언어적 추론은 모델링하기가 까다로우며, 그 결과 현재 기계 지능의 근본적인 한계로 남아 있습니다. 본 연구에서는 생성, 검증, 최적화를 기계의 추론 파이프라인으로 통합하는 범용 프레임워크인 GenVerOpt를 소개합니다. GenVerOpt는 후보 해를 생성하고 그 정확성을 검증하며 반복적으로 개선함으로써, 모델 학습(training) 중에 포착된 데이터셋(dataset) 수준의 경향성에만 의존하기보다 샘플별 최적화를 가능하게 합니다. 이 과정은 올바른 해결책이 도출될 때까지 여러 가능성을 구상하고 평가하며 다듬는 인간의 문제 해결 방식을 반영합니다. 다양한 도메인에 걸쳐 GenVerOpt는 기존 시스템을 뛰어넘는 역량을 입증합니다. 즉, 추상적 IQ 퍼즐에서 인간을 능가하고, 전립선암 분할에서 임상의 수준에 도달하며, 간 혈관 재구성에서 전문가를 뛰어넘고, 종양 경계 정렬에서 최신(SOTA) 접근법보다 우수한 성능을 보입니다. 이러한 결과는 기계의 추론이 언어를 넘어 확장될 수 있음을 보여주며, 시각적 비언어적 추론을 보다 유연하고 일반화 가능한 지능의 토대로 확립합니다.

arXiv:2607.09816v4cs.LG공통 태그 General Classification

RUBRIC: 불균형 분류를 위한 사실성-효용 균형 순위화

RUBRIC: Realism--Utility Balanced Ranking for Imbalanced Classification

클래스 불균형은 사기 탐지 및 의료 진단과 같이 소수 클래스 샘플이 희소하지만 정확한 분류에 결정적인 위험 민감 응용 분야에서 근본적인 문제를 야기합니다. 기존 오버샘플링(oversampling) 기법들은 클래스 분포의 균형을 맞추기 위해 합성 샘플을 생성하지만, 결정 경계를 왜곡하거나 인위적 아티팩트를 도입하는 저품질 후보를 대량 생성하여 과적합과 일반화 성능 저하를 초래하는 경우가 많습니다. 본 연구에서는 합성 샘플 선택을 '양보다 질' 최적화 문제로 정형화하는 생성기 무관(generator-agnostic) 필터링 프레임워크인 \textbf{RUBRIC}을 소개합니다. RUBRIC은 사실성-효용 트레이드오프를 활용하여 후보들의 순위를 매깁니다. 사실성은 각 후보가 실제 소수 클래스 샘플과 닮은 정도로부터 신경 밀도비 판별자(neural density-ratio discriminator)를 통해 추정되며, 효용은 오목한 마진 기반 점수 함수 $g_-(t)=-\log(1+e^{-t/τ})$를 통해 결정 경계와의 근접성을 포착합니다. 판별자는 모든 벤치마크에서 동일한 아키텍처와 학습 프로토콜을 사용하며, 각 데이터셋의 실제 소수 클래스 대 합성 풀에 대해 독립적으로 적합됩니다. 본 연구에서는 온건한 정규성 조건 하에서, 제안된 필터링 프레임워크가 분포 변화(distribution shift)를 줄이고 준음성 꼬리(near-negative tail) 기여를 억제함으로써 마진 기반 분류기의 일반화 한계(generalization bound)를 단조롭게 강화함을 보입니다. 표준 공개 불균형 분류 벤치마크에 대한 광범위한 실험을 통해, RUBRIC이 여러 데이터 생성기에 걸쳐 전반적인 판별 능력을 유지하면서 소수 클래스 재현율을 향상시킴을 입증합니다. $λ$ 및 선택 예산 $K$에 대한 민감도 분석은 순위화 품질 중심의 성능 트레이드오프를 더욱 명확히 규명합니다.

arXiv:2609.25597v2cs.CV공통 태그 Segmentation

망막 혈관 분할에서의 관찰자 선택과 임계값 선택: 피험자 분리 평가

Observer Choice and Threshold Selection in Retinal Vessel Segmentation: A Subject-Separated Evaluation

분할 임계값(threshold)을 선택하는 데 사용되는 주석(annotation)은 평가 프로토콜의 일부이지만, 그 효과는 모델 품질과 쉽게 혼동된다. 우리는 CHASE DB1의 전체 28개 이미지와 두 명의 사람 주석자(human annotations) 모두를 사용하여 망막 혈관 분할에서 이러한 선택을 조사한다. 고정된 7-폴드(seven-fold) 프로토콜은 14명의 피험자 각각의 양쪽 눈을 함께 유지한다. 랜덤 포레스트(Random Forest)와 Extra Trees는 관찰자 1을 기준으로 세 개의 무작위 시드(random seed)로 학습되어 총 42개의 적합(fit) 결과를 산출했다. 다섯 가지 임계값 정책은 동일한 점수 맵(score map)을 공유한다: 고정값 0.50, 관찰자 1 튜닝, 관찰자 2 튜닝, 평균 관찰자 튜닝, 그리고 이미지별 낮은 관찰자 Dice의 맥시민(maximin) 튜닝. 랜덤 포레스트의 경우, 맥시민은 21개 적합 중 19개에서 임계값을 변경했지만, 최악 관찰자(worst-observer) Dice는 70.53%에서 70.45%로 감소했다. 쌍별 차이(paired difference)는 -0.073 퍼센트 포인트이며, 조건부 피험자 부트스트랩(subject-bootstrap) 95% 구간은 [-0.384, 0.238]이다. Extra Trees도 동일한 방향을 보인다. 동일한 관찰자-1 튜닝된 랜덤 포레스트 마스크는 관찰자 1 대비 73.66%, 관찰자 2 대비 71.06%의 점수를 기록했다. 이 결과는 임계값 선택 기준(reference)과 평가 기준 모두를 명시적으로 보고해야 한다는 것을 지지하지만, 이 코호트(cohort)에서 맥시민 튜닝으로 인한 정확도 향상을 지지하지는 않는다. 모든 분할(split), 원시 예측(raw prediction), 지표(metric) 및 코드가 함께 제공된다. AI의 도움을 받았음을 명시한다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.