완전 지도 방식의 반복 동작 계수(Repetitive Action Counting, RAC)는 뛰어난 성능을 달성했지만, 비용이 많이 들고 확장이 어려운 조밀한 시간적 주석(annotation)을 필요로 한다. 우리는 반복 레이블 없이 RAC 모델을 학습시킬 수 있는 자기지도(self-supervised) 비디오 합성 프레임워크인 TReViS를 제안한다. TReViS는 레이블이 없는 비디오의 근본적인 시간적 반복 구조를 시간적 자기 유사도 행렬(Temporal Self-Similarity Matrix)을 통해 추정하고, 그 주기 통계를 추론한 뒤, 현실적인 반복 패턴을 보존하면서도 통제된 시간적 변동성을 도입한 새로운 학습 시퀀스를 합성한다. 이렇게 합성된 비디오는 의사 레이블(pseudo-label)과 짝을 이루어 기존 RAC 아키텍처를 처음부터 학습시키는 데 사용된다. 여러 데이터셋과 백본(backbone)에 걸쳐, TReViS는 기존의 자기지도 방법들을 일관되게 능가하며 완전히 레이블 없이도 여러 지도 학습 기준선(baseline)과 견줄 만한 성능을 달성함으로써, 레이블 없는 RAC를 위한 구조 인식 비디오 합성의 효과를 입증한다. 소스 코드는 https://github.com/yfqi/TReViS 에서 확인할 수 있다.
시각 분할 시스템은 실제 배포 시 학습 분포 밖의 객체를 만나며, 지각 단계에서 장면 파싱(scene parsing)에 의존하는 신뢰할 수 있는 자율 시스템을 저해한다. 최근 많은 방법은 자기지도(self-supervised) 파운데이션 모델로 이상 이미지 영역에서 낮은 가능도를 내는 밀도 추정기(density estimator)를 학습하는 방식으로 이를 다룬다. 유망하지만, 이러한 방법은 특징 의미론이 빈약하거나 공간적 일관성이 부족해, 둘 다 중요한 후속 의사결정을 훼손한다. 우리는 자기지도 표현 위의 클래스 조건부 밀도 추정에 기반한 생성적 방법인 SAFe로 이 문제를 해결한다. SAFe는 고정(frozen) DINOv3 특징 위에서 클래스 조건부 정규화 가능도 추정치를 산출하는 경량 정규화 흐름(normalizing flow)을 학습한다. 전역 의미론과 국소 디테일을 모두 포착하기 위해 트랜스포머 특징의 밀도 추정과 다중 스케일 합성곱 특징에 대한 밀도 점수를 결합한다. SAM3에 기반한 방법 독립적 후처리 단계를 도입하여, 위치별 가능도를 공간적으로 일관된 세그먼트로 연결하고 거짓 양성을 억제하며, 재학습 없이 인스턴스 수준 이상 탐지를 가능하게 한다. 후처리는 유사도 기반 응집적 클러스터링(agglomerative clustering)으로 이상 객체들 가운데 새로운 범주를 추가로 구분한다. SAFe는 PANIC, OoDIS, SMIYC ObstacleTrack에서 새로운 최고 성능(state of the art)을 달성하고 ISSU 벤치마크에서도 강한 성능을 보인다.
대조 자기지도학습(contrastive self-supervised learning)은 동일한 이미지의 여러 증강된 뷰(view)로부터 표현을 학습하여 뛰어난 성능을 달성해 왔습니다. 그러나 기존의 대부분 방법들은 독립적으로 샘플링된 확률적 증강을 사용하여 양성 쌍(positive pair)을 구성하므로, 시맨틱 콘텐츠를 변형시키고 데이터 분포의 본질적인 기하학(geometry)을 무시할 수 있습니다. 본 연구에서는 기하학적으로 일관된 양성 샘플을 생성하는, 표현의 대조 학습을 위한 최적 수송(optimal transport) 인식 프레임워크인 OTCLR을 제안합니다. 무작위로 증강된 두 뷰를 직접 대조하는 대신, 엔트로피 최적 수송 변위 보간(entropic optimal-transport displacement interpolation)을 통해 원본 이미지와 증강 변형 사이의 중간 뷰들을 구성합니다. 이렇게 수송 보간된 샘플들은 공간적 분포 기하학을 명시적으로 모델링하면서 이미지 구조를 더욱 잘 보존하는 양성 뷰 역할을 합니다. 매끄러운 표현 학습을 더욱 촉진하기 위해, 수송 보간된 뷰들이 끝점 이미지들과 일관성을 유지하도록 유도하는 보조 Sinkhorn 정규화 항을 평가합니다. 제안된 방법은 인코더 아키텍처를 수정하지 않고도 표준 대조 학습 파이프라인에 통합될 수 있습니다. 여러 벤치마크 데이터셋에 대한 실험을 통해, 본 접근법이 기존 증강 기반 대조 학습 베이스라인에 비해 표현 품질과 전이학습 성능을 향상시킴을 보여줍니다.
Vision Transformers versus convolutional neural networks for fine-grained orchid genus identification in a species-rich, data-poor flora: a controlled benchmark on the Orchidaceae of New Guinea
뉴기니는 세계에서 가장 풍부한 섬 식물상(난초 약 2,856종)을 보유하고 있지만, 대부분의 종은 소수의 사진으로만 대표되며, 이는 종 수준의 직접 분류에 필요한 것보다 훨씬 적다. 이처럼 종 다양성은 높지만 데이터가 부족한 식물상에서 세분화된 식별(fine-grained identification)을 위한 방법이 필요하지만, 어떤 백본(backbone) 아키텍처와 사전학습(pretraining) 전략이 이를 가장 잘 뒷받침하는지는 아직 명확하지 않다. 우리는 먼저 쿼리 사진의 속(genus)을 예측한 다음, FAISS를 이용해 후보 종의 시각적으로 유사한 참조 이미지를 검색하는 2단계 시스템을 구축했다. 우리는 사전학습된 네 가지 백본 -- 두 개의 비전 트랜스포머(Vision Transformer, ViT; DINOv2, BioCLIP 2)와 두 개의 CNN(ConvNeXt V2-L, EfficientNetV2-L) -- 을 120개 속과 1,350개 종에 걸친 16,701장의 사진으로 구성된, 종 층화(species-stratified)된 고정 분할 데이터셋에서 동일한 프로토콜로 파인튜닝(fine-tuning)하여 비교했으며, 정확도, 보정(calibration), 오류 구조, 종 검색(retrieval), 그리고 새로운 속에 대한 오픈셋(open-set) 탐지를 평가했다. DINOv2가 가장 우수한 속 수준 성능을 달성했다(매크로 top-1 66.9%, 95% 신뢰구간 63.7-70.6; 전역 top-1 88.9%). 두 ViT 모두 두 CNN보다 우수한 성능을 보였으며, 범용 자기지도학습(self-supervised) 사전학습(DINOv2)이 도메인에 특화된 생물학적 사전학습(BioCLIP 2)보다 매크로 top-1 기준 7.1점 더 높은 성능을 보였다. 오류는 오류 유인체(error attractor) 역할을 하는 두 개의 개체수가 많은 속에 집중되었다. DINOv2 임베딩(embedding)은 종 수준 재현율(Recall@5) 86.6%와 속 수준 재현율(Recall@5) 98.7%를 달성했으며, 온도 스케일링(temperature scaling)은 모든 백본의 기대 보정 오차(Expected Calibration Error)를 약 0.03까지 감소시켰다. 또한 거리 기반 오픈셋 게이트는 보지 못한 속을 탐지해냈다(평균 AUROC 0.958). 임베딩 검색과 결합된 자기지도학습 비전 트랜스포머 백본은 종 다양성이 높고 데이터가 부족한 식물상에서 세분화된 식별을 위한 효과적이고 실용적으로 배포 가능한 전략이다. 이 시스템은 공개 웹 애플리케이션(New Guinea Orchid Identifier)으로 공개되었으며, 다른 초다양성(hyperdiverse)의 미문서화된 분류군에도 적용 가능한 실용적인 템플릿을 제공한다.
단안 대장내시경 3D 재구성은 수술 로봇 대장내시경에 중요하지만, 낮은 텍스처, 정반사, 제한된 시야 중첩, 비강체 조직 운동 때문에 여전히 어렵다. 기존 다중 시점 3D 재구성 방법은 안정적인 대응(correspondence)과 근사 강체 가정에 의존하며, 이는 대장내시경에서 자주 위반된다. 기존 내시경 방법은 종종 도메인 특화 지도에 의존하지만, 기하학 기반 모델(geometry foundation model)을 임상 대장내시경에 적응시키기에는 in-vivo 라벨 데이터가 충분하지 않다. 본 연구는 사전학습된 VGGT 위에 구축한 크로스 도메인 반지도 학습 프레임워크 Colon3R을 제안한다. 라벨이 있는 phantom 및 시뮬레이션 데이터에서 결합된 카메라·깊이·pointmap 기하를, 목표 도메인 기하 주석 없이 라벨 없는 in-vivo 대장내시경으로 전이한다. phantom과 시뮬레이션 데이터만으로 학습하는 소스 전용 미세조정과 달리, Colon3R은 교사 모델에서 유도한 교차 시점 지도를 통해 라벨 없는 in-vivo 영상을 직접 활용한다. 제안한 계층적 준강체(quasi-rigid) 신뢰도는 시퀀스, 방향 쌍, 픽sel 수준에서 신뢰할 수 있는 지도를 선택하고, 소스 보존 적응(source-preserving adaptation)은 목표 도메인 적응 동안 학습된 결합 기하를 유지한다. 광범위한 실험에서 본 방법은 깊이, pointmap, 카메라 포즈 추정에서 최신 방법들보다 전반적으로 우수한 성능을 보인다. 실제 in-vivo 대장내시경에 대한 정성 비교는 임상 도메인 이동 하에서도 경쟁 방법 대비 훨씬 더 완전하고 기하적으로 일관된 재구성을 보여준다. 코드는 논문이 accept된 후 공개될 예정이다.
Joint Embedding Predictive Architecture(JEPA)는 시각적 재구성(visual reconstruction) 없이 과제 무관(task-agnostic) 잠재 월드 모델을 학습(training)하기 위한 유망한 패러다임입니다. 그러나 표준 JEPA 학습은 느린 특징(slow feature)에 대한 강한 귀납적 바이어스(inductive bias)를 보여, 특징 억제와 잠재 표현(latent representation)의 붕괴를 초래합니다. 역동역학(inverse dynamics)은 시간적 붕괴 방지(temporal anti-collapse)를 제공하지만, 행동 레이블(action label)에 의존하며 레이블이 없는 일반적인 역동학을 임베딩(embedding)하도록 유도하는 효과는 미미합니다. 본 논문에서는 픽셀 재구성 손실(pixel reconstruction loss) 없이 시간적 차영상 임베딩을 예측하는 역동역학 스타일 모듈을 기반으로 하여 정적 및 동적 특징 학습의 균형을 맞추는 새로운 정규화(regularization) 기법인 Difference Image and Single image embedding Regularization(DISReg)을 소개합니다. DISReg는 이미지 임베딩의 분포를 형성하고 느린 특징을 유도하는 정적 항과, 임베딩에 직접 정규화를 적용하는 방식과 달리 이미지 임베딩의 형태나 분포에 제약을 가하지 않고 동적 특징이 존재하도록 유도하기만 하는 동적 항으로 구성됩니다. 이 정규화 기법을 표준 JEPA에 통합하여 새로운 아키텍처인 MotionJEPA를 구축합니다. 잠재 프로빙(latent probing)을 통해 MotionJEPA가 다른 방식들보다 더 완전한 표현을 생성함을 입증하며, 궤적 분석(trajectory analysis)을 통해 곡률(curvature)이 낮은 기하학적으로 단순한 잠재 임베딩을 유지함을 보여줍니다. 나아가 4개의 환경에서 MotionJEPA가 정적 배경 방해 요소(static-background distractors)가 존재하는 상황에서도 다운스트림 플래닝(planning) 성공률을 향상시킴을 보입니다.
결막 사진의 자동 등급 분류는 트라코마 유병률 조사의 비용과 변동성을 줄일 수 있지만, 공통 프로토콜 하에서 최신 사전학습 시각 표현, 경량 특징 적응, 학습 목표 설계의 상대적 가치는 아직 확립되지 않았다. 본 연구는 공개 UCSF/Lietman 컬렉션의 1,546장 이미지를 사용하여 Trachomatous Inflammation-Follicular(TF) 대 Normal의 이진 분류에 대한 통제된 평가를 제시한다. 이미지는 제로샷 tarsal-conjunctiva 분할, 정렬, 크롭, 표준화를 위해 OPTED 파이프라인으로 처리한다. 먼저 공통 분류 파이프라인으로 여섯 가지 사전학습 백본을 비교한 뒤, DINOv2 ViT-B/14에 네 가지 경량 적응 메커니즘을 평가한다. 계층화 5-fold 교차 검증 하에서, Efficient Channel Attention(ECA)과 focal-plus-center 손실을 적용한 DINOv2는 91.66 +/- 0.97% 정확도, 90.69 +/- 1.10% macro-F1, 96.06 +/- 0.71% AUC를 달성했다. ECA는 학습 가능 매개변수 다섯 개만 추가하면서 훨씬 큰 대안과 동등한 성능을 냈다. 목적 함수 ablation은 ECA가 손실 함수 전반에서 plain DINOv2를 일관되게 개선하지 않았음을 추가로 보여주었으며, 분산이 가장 낮은 91.66% 정확도는 교차 엔트로피와 center loss로 얻었다. 전반적으로, 파인튜닝된 DINOv2 표현이 예측 성능의 대부분을 제공했고, ECA는 학습 목표에 따라 효과가 달라지는 매우 매개변수 효율적인 정제를 제공했다. 결과 워크플로는 활성 트라코마 이미지 분류를 위한 재현 가능한 벤치마크를 제공한다.
의료 이미지 분할 모델은 일반적으로 대량의 밀집 주석이 달린 체적 데이터에 의존하여, 작업과 영상 방식 전반에 걸친 확장성을 제한한다. 본 연구는 극단적인 주석 희소성 하에서 전체 3D 해부학적 구조를 예측하는 문제를 다룬다. 체적당 단일 2D 슬라이스에 점 프롬프트(point prompt) 집합만 입력으로 요구하는, 자동 3D 의료 분할용 주석 효율적 교사-학생 프레임워크를 제안한다. 파운데이션 모델이 오프라인 교사로 작동하며, 선택된 슬라이스의 점 프롬프트를 이용해 학생 학습 전에 전체 체적 의사 주석과 이에 대응하는 공간적 신뢰도 점수를 생성한다. 노이즈가 있는 의사 주석의 오류 전파를 줄이기 위해, 과제별 3D 학생 네트워크를 신뢰도 인식 최적화(optimization) 전략으로 학습한다. 교사의 사전 계산된 신뢰도 점수를 활용해, 이 전략은 의사 주석 중 정적으로 불확실한 영역을 손실(loss) 계산에서 명시적으로 제외하고, 동시에 신뢰도가 더 높은 영역을 강조한다. 3D 심장 MRI 데이터셋(dataset)에서 평가한 결과, 제안 프레임워크는 최신 준지도(semi-supervised) 방법을 능가하며 이미지 분할 성능을 최대 43.6% 향상시킨다. 또한 체적당 소수의 양성 점 프롬프트만으로 수동 주석 부담을 크게 줄이면서, 교사 대비 표면 경계 정밀도(precision)를 최대 14.7% 개선하고, 완전 지도 학습 상한 대비 성능 격차의 최대 34.1%를 회복한다.
잠재 행동 모델(Latent action models)은 행동 라벨이 없는 비디오의 두 프레임 간 전이(transition)를 나타내는 코드를 추론한다. 최근의 방법들은 이 코드가 덧셈적으로 합성되고 반대칭적으로 역전되도록 정규화(regularization)하며, 그 결과 발생하는 오차의 수치상 자릿수 감소를 코드가 시간적 구조를 포착했다는 무라벨 보증(label-free certificate)으로 보고한다. 본 연구에서는 이러한 결론이 타당하지 않음을 보인다. 재구성은 디코딩된 전이를 상태 피처의 차이로 유도하며, 이 경우 어떠한 쌍에 대해서도 두 항등식이 성립하므로, 평가 지표는 이를 방해 상태(nuisance state)나 좌표계 규약을 인코딩한 해와 구별할 수 없다. 5개 소스 도메인에 걸쳐, 제약 없이 학습된 대응 모델조차 학습되지 않은 기준선 앵커 대비 오차 감소율의 83-97%를 이미 달성한다. 잔차의 차이는 무엇을 학습했는지만큼이나 디코더 패밀리에 의해 좌우된다. 시간적 쌍 구조를 파괴한 후 재학습된 제약 모델조차도 각 도메인에서 실제 데이터에 대한 비제약 모델보다 더 낮은 오차를 달성한다. 다운스트림 작업에서 시간적 쌍 구조를 보존하는 것은 LIBERO-GOAL이나 LIBERO-SPATIAL에서 일관된 이점을 제공하지 못하며, 테스트된 로봇 팔 전반에서 대수적 오차가 개선될수록 코드의 평균 선형 행동 디코딩 가능성은 오히려 떨어진다. 또한 가장 직접적인 해결책으로서 파괴된 쌍에서 대수적 관계가 깨지도록 요구하는 위반-대조 목적함수(violation-contrastive objective)를 테스트했으나, 테스트된 구성에서는 학습 및 테스트 트리플 모두에서 재구성 예산 내 한계 수준의 분리만을 제공했다. 본 연구는 현재 이러한 방법들에 결여된 검증 프로토콜로 기준선 보정 지표, 파괴된 쌍에 대한 재학습, 시드-예산 분석을 제안한다.
캐시 기반 테스트 시점 적응(test-time adaptation)은 모델을 고정(frozen)한 채 타깃 스트림에서 예시를 저장하고 검색함으로써 CLIP의 예측을 향상시킨다. 그러나 기존 방법들은 이미지-이미지 검색에 사용되는 특징 공간을 대부분 고정된 것으로 취급하여, 적응이 검색 공간 자체에 얼마나 의존하는지는 밝혀지지 않은 채로 남아 있었다. 본 연구는 메모리를 고정하고 검색 인코더만 변경함으로써 이 질문을 탐구하며, 동일한 메모리라도 매우 다른 성능 향상을 가져올 수 있음을 발견하였다: 16개의 검색 공간에 걸쳐 ImageNet-A 캐시 성능 향상은 CLIP과 MAE의 경우 최대 +0.44점에 그치는 반면, DINOv2-L의 경우 +19.7 ± 0.4점에 달했으며, 레이블 없이(label-free) 검색 공간을 선택하는 방식은 ImageNet-V2에서 오라클(oracle) 성능 향상의 98%를 유지하였다. 이러한 결과는 메모리의 품질이 어떤 예시가 저장되는지뿐만 아니라 그것들이 어떻게 검색되는지에도 좌우됨을 보여준다. 이 발견에 착안하여, 우리는 예측에는 고정된(frozen) CLIP을, 검색에는 DINOv2-B를 사용하고 단일 융합 가중치(weight)를 적용하는 학습이 필요 없는(training-free) 시스템인 MARC(Memory Augmented Retrieval for CLIP)를 제안한다. 단일 뷰(single-view) 캐시는 약 7분의 1의 비용으로 1074 ± 21개의 기준선(baseline) 오류를 수정하는 반면, 64개 뷰 앙상블(ensemble)은 878 ± 4개를 수정하는 데 그친다. 네 가지 ImageNet 분포 이동(distribution shift)에 걸쳐 MARC는 67.91%의 분포 외(OOD) 평균 성능을 달성하였으며, 동일한 DINOv2-B 규모와 8개 뷰 조건에서 그래프 기반 캐시 시스템의 62.75 ± 0.15% 대비 64.17 ± 0.31%를 달성하면서도 2.6배 더 빠르게 동작하였다. 전반적으로, 본 연구의 결과는 원격 탐사(remote sensing), 과학 이미징(scientific imaging), 그리고 변화하는 시각 환경에서 강건한(robust) 캐시 기반 적응을 위해 검색 공간이 1차적인(first-order) 설계 선택 요소임을 확립한다.
새우 질병은 양식업(aquaculture)에 계속해서 막대한 손실을 초래하고 있어, 견고하고 자동화된 탐지 기술에 대한 필요성이 절실하다. 본 연구는 비전 트랜스포머(Vision Transformer, ViT)와 자기지도학습(Self-Supervised Learning, SSL)을 새우 양식 분야에 최초로 적용하여, 성능 병목 현상과 데이터 레이블링 문제를 동시에 해결한다. 우리는 4,348장의 이미지로 구성된 데이터셋을 사용하여 정상(Healthy), 검은 아가미병(Black Gill, BG), 백점바이러스병(White Spot Syndrome Virus, WSSV), 그리고 두 질병의 동시 감염이라는 4가지 주요 질병 범주를 분류하기 위한 두 가지 심층 학습 파이프라인을 제안한다. 첫째, 우리의 지도 전이학습(supervised transfer-learning) 접근법은 ImageNet으로 사전학습된 ViT-Small/16과 EfficientNet 백본을 활용한다. 둘째, 미세조정(fine-tuning) 이전에 레이블이 없는 이미지로부터 견고한 표현(representation)을 추출하기 위해 ViT-Small 인코더를 사용한 대조학습(contrastive learning) 프레임워크(SimCLR)를 도입한다. 우리의 결과는 지속 가능한 양식업 모니터링을 위한 강력한 새로운 베이스라인을 확립한다. 지도학습 접근법은 빠른 수렴 속도와 함께 96%라는 뛰어난 정확도를 달성하여 기존의 범용 모델들을 능가했으며, 레이블 효율적인 SSL 접근법은 85%의 매우 경쟁력 있는 검증(validation) 정확도에 도달했다.
양손 상호작용은 동일한 물리적 과정에 대해 상보적인 촉각 뷰를 만들지만, 기존 촉각 표현 학습은 두 손을 대체로 독립적으로 모델링하거나 하류 예측을 위해 결합하는 수준에 그쳐 교차 손 관계는 거의 다루지 않았다. 이 간과된 구조를 활용하기 위해, 우리는 마스킹된 목표 손 잠재 변수를 남은 가시 목표 손 영역과 동기화된 전체 대측(contralateral) 손으로부터 완성하는 촉각 전용 프레임워크 BiView-Touch를 제안한다. 기하학 조건부(geometry-conditioned) 방향 디코더를 갖춘 student 인코더가 전체 뷰 EMA 잠재 타깃을 예측하며, 시간적·레이아웃 반사실(counterfactual)은 동기화되고 해부학적으로 조직된 소스 정보에 대한 민감도를 높인다. 통제된 ablation과 소스-컨텍스트 개입은 BiView-Touch가 양측 입력만으로 이득을 보는 것이 아니라, 시간 정렬되고 해부학적으로 조직된 대측 촉각 컨텍스트에 대한 구조화된 교차 손 의존성을 학습함을 보여준다. 공개 HumanTouch 데이터셋에서 고정(frozen) 표현은 저레이블 설정 전반에서 대표적인 자기지도 학습 baseline을 꾸준히 능가한다. 하류 레이블 5%만 사용할 때 BiView-Touch는 양손 손목 운동 인식에서 균형 정확도가 상대 7.1% 향상되고, 힘 기반 상호작용 위상 인식에서는 14.1% 향상된다. 또한 20개 과제 양손 촉각 데이터셋 BVT-20을 소개하고, 녹화 세션 및 사전학습 코퍼스 간 전이와 홀드아웃 양손 과제로의 전이를 입증한다. 코드 및 데이터셋 세부 정보는 익명 프로젝트 페이지에서 확인할 수 있다: https://anonymous.4open.science/w/biview-touch-review-site-050C/.
종단 간 주행에는 계획(planning)에 관련된 조감도(bird's-eye-view, BEV) 표현이 필요하지만, 기존 사전학습 접근은 종종 태스크 주석이나 밀집 장면 재구성에 의존한다. 우리는 PAVER(Planning-Aligned BEV Encoder Pretraining, 계획 정렬 BEV 인코더 사전학습)를 제안한다. 단일 LiDAR 스윕(sweep)으로부터 PAVER는 규칙 기반 ego motion을 따라 점유된 증거와 관측되지 않은 증거를 기술하는 희소 위험(risk) 및 unknown 타깃을 구성한다. 1만(10K) 매개변수 헤드가 행동 상태(action state)에 조건이 걸린 마스킹된 BEV 특징으로부터 이 타깃들을 예측하여, 후보 motion에 대한 기하학적 제약으로 지도(supervision)를 향하게 한다. 사전학습에는 주행 태스크 주석이나 밀집 재구성이 필요하지 않다. BEV 인코더만 전이(transfer)되어 하류 아키텍처와 카메라 전용 추론을 유지한다. nuScenes에서 PAVER는 VAD-Tiny의 평균 충돌률을 0.51%에서 0.19%로 낮추면서 planning L2, motion prediction, detection, mapping을 개선한다. 선택된 VAD-Tiny 및 VAD-Base 스케줄은 사전학습을 포함해 처음부터 학습(scratch training) 대비 추정 총 학습 시간이 약 36% 적다. Bench2Drive Town05 Long에서 PAVER는 UniAD-Tiny의 폐루프(closed-loop) Driving Score를 48.45에서 58.79로 향상시킨다. 프로젝트 페이지는 https://archiiive99.github.io/PAVER 에서 확인할 수 있다.
비디오 파운데이션 모델(video foundation model)은 이제 물리적 추론(physical reasoning) 벤치마크에서 인간 수준의 정확도에 도달했지만, 이러한 과제는 관측되지 않은 물리적 결과를 예측해야 한다. 이 모델들은 인간과 유사한 순방향 시뮬레이션(forward simulation)을 수행하는 것일까, 아니면 가시적인 장면의 통계적 규칙성을 활용하는 것일까? 정확도만으로는 이러한 전략을 구분할 수 없다. 우리는 모델 시드(seed)와 인간 평가자를 모집단으로 취급하여 합의(consensus), 불확실성, 전략을 비교할 수 있는 분포 기반 평가 프레임워크를 제안한다. Physion 벤치마크에서 우리는 세 가지 ViT-L 아키텍처(V-JEPA2, VideoMAEv2, DINOv2)를 평가한다. V-JEPA2는 정확도 격차를 약 1퍼센트포인트(73.2% 대 74.2%)로 좁히지만, 모델-인간 불일치는 26.4%에 달해 인간-인간 불일치(4.8%)를 크게 상회하며, 일치도(카파(kappa) ~0.48 대 0.91) 역시 상당히 낮다. 이러한 차이는 순방향 시뮬레이션 요구 수준에 따라 나타난다: 모델은 기하학적 추론(연결(linking), +11.8 퍼센트포인트)에서는 인간을 능가하지만, 중력 역학(구르기(rolling), -11.8 퍼센트포인트)과 인과 연쇄(도미노(dominoes), -10.5 퍼센트포인트)에서는 인간에 미치지 못한다. 전략 지문 분석(strategy fingerprinting)은 세 아키텍처 모두 비인간적 전략을 공유하면서도 어느 것도 인간과 일치하지 않음을 확인한다. 귀인 분석(attribution analysis)에 따르면 가시적인 장면 속성이 아니라 관측 불가능한 결과 특징(outcome feature)이 이러한 차이를 예측하는 것으로 나타나며, 이는 모델이 명시적인 순방향 시뮬레이션보다 장면 수준의 통계적 규칙성에 더 의존한다는 것과 일치한다. 이는 정확도만으로는 드러낼 수 없는 체계적인 차이다. 코드는 https://github.com/fanhong-li/model-human-divergence 에서 확인할 수 있다.
고해상도 궤도 영상은 화성 표면에 대한 풍부한 기록을 제공하지만, 지질학적 라벨의 희소성으로 인해 지도 학습 기반의 표현 학습(representation learning)에는 한계가 있다. 본 논문에서는 올림푸스 산(Olympus Mons)의 HiRISE 관측 자료로부터 시각 및 멀티모달(multimodal) 표현을 학습하기 위한 지리공간 인지형 파이프라인인 MarsRecon을 제시한다. 이 파이프라인은 NASA Planetary Data System 데이터를 캘리브레이션하고, 유효한 지리참조 패치를 추출하며, 라벨이 없는 영상에 대해 마스크드 오토인코더(masked autoencoder)를 학습한다. 주요 Stage A 모델 시리즈에서 입력 해상도를 높이고 유효하지 않은 토큰(token)을 필터링함으로써 홀드아웃 재구성 손실을 0.1751에서 0.1342로 감소시켰다. 이어 시각 인코더를 동결(freeze)하고 해당 특징을 관측 텍스트, 좌표, 국소-전역(local-global) 이미지 컨텍스트와 정렬한다. 현재 가장 성능이 뛰어난 국소 우선(local-primary) 모델은 홀드아웃 테스트 분할에서 0.3787의 이미지-텍스트 recall@10(재현율@10), 0.9161의 텍스트-이미지 recall@10, 0.4350의 국소-전역 recall@10을 달성한다. 이러한 결과는 화성에 특화된 실용적인 사전학습(pre-training) 및 검색 파이프라인을 구축함을 보여주며, 해당 임베딩(embedding)의 더 폭넓은 유용성을 평가하기 위해서는 추가적인 크롭 중첩 제어 및 다운스트림 지질학적 평가가 필요하다.
다중모달(multimodal) 뇌졸중 재발 예측은 이종의 임상 및 영상 데이터의 효과적인 통합을 필요로 하지만, 모달리티 불균형(modality imbalance)으로 인해 모델이 지배적인 모달리티에 지나치게 의존하고 상호보완적인 정보를 충분히 활용하지 못하는 경우가 자주 발생합니다. 자기지도 사전학습(self-supervised pretraining)과 선택적 매개변수 동결은 표현 학습과 미세조정 안정성을 향상시키기 위해 흔히 사용되지만, 다중모달 의료 모델에서 모달리티 기여도 및 교차 모달(cross-modal) 동작에 미치는 영향은 여전히 거의 연구되지 않았습니다. 본 연구에서는 최근 다루었던 임상적으로 중요한 과제인 뇌졸중 재발 예측을 위해, 3D CTA 스캔 기반의 영상 사전학습이 모달리티 불균형을 줄이고 교차 모달 통합을 향상시키는지 조사합니다. 이를 위해 두 가지 다중모달 신경망을 자기지도 방식으로 사전학습한 후, 두 가지 서로 다른 동결 전략을 사용하여 미세조정합니다. 이들의 성능과 모달리티 활용도를 이전 연구의 기준선 모델 및 본 연구에서 처음부터 완전히 학습(trained from scratch)된 모델 모두와 비교합니다. 연구 결과, 자기지도 사전학습은 다중모달 영상-정형(image-tabular) 데이터셋을 더욱 효과적으로 활용할 수 있게 하여 기존 기준선과 사전학습되지 않은 모든 모델을 능가함을 입증합니다. 특히, 가장 우수한 성능을 보인 Vision Transformer 기반 신경망은 단일모달 붕괴(unimodal collapse)를 성공적으로 극복했습니다. 시너지 분석 결과, 비전과 성별 및 관상동맥질환(CHD) 간의 유의미한 상호작용이 밝혀졌으며, 이는 뇌졸중 재발에 대한 임상적으로 유의미한 패턴을 시사합니다. 전반적으로, 본 연구의 결과는 자기지도 사전학습과 전략적인 미세조정이 보다 균형 잡힌 모달리티 활용을 지원하고 의미 있는 교차 모달 상호작용을 가능하게 함을 보여줍니다. 코드는 https://github.com/ChristianGappGit/SSL_Pretraining 에서 공개되어 있습니다.
선천성 심장 질환(CHD) 진단 및 수술 계획에는 환자 맞춤형 3D 해부학적 모델이 자주 요구되지만, 특히 복잡한 해부학적 구조에서 수작업 분할(segmentation)은 많은 노동력이 소모됩니다. 딥러닝 방식이 이 과정을 자동화할 수 있음에도 불구하고, 스캐너, 프로토콜, 기관, 대상군 및 영상 모달리티의 임상적으로 유의미한 변화가 존재함에도 대개 분포 내(in-distribution)에서만 평가됩니다. 저자들이 아는 한, 본 연구는 ImageCHD를 미공개 타깃 코호트로 사용하여 CHD 분할에서의 분포 외(out-of-distribution, OOD) 일반화에 대한 최초의 체계적인 평가를 제시합니다. CT 및 CMR 결합 학습(training), CT 전용 학습, 자기지도 사전학습(self-supervised pre-training), 제한된 타깃 도메인 적응 조건에서 대표적인 분할 아키텍처들을 비교합니다. 분포 내 성능은 코호트 간 견고성(robustness)을 나타내는 지표로 부적합한 것으로 입증되었습니다. nnU-Net은 가장 높은 검증(validation) Dice(0.77)를 달성하지만 ImageCHD에서는 0.51로 하락하는 반면, SwinUNETR은 훨씬 우수하게 일반화되어 0.67 Dice에 도달합니다. MAE 및 JEPA 사전학습은 미미한 수준의 추가적인 이점만을 제공하여, 이 환경에서는 아키텍처가 테스트된 사전학습 전략보다 견고성에 더 크게 기여함을 시사합니다. 제한된 타깃 도메인 지도(supervision)가 도입되면, 모든 SwinUNETR 변형은 단 11개의 라벨링된 ImageCHD 케이스만으로도 0.76 Dice를 초과합니다. 이러한 결과는 기존의 분포 내 평가가 임상적으로 중요한 일반화 실패를 가릴 수 있음을 보여주며, CHD 분할 평가의 핵심 요소로서 명시적인 교차 데이터셋(dataset) 테스트를 뒷받침합니다.
객체 중심 학습(Object-Centric Learning, OCL)은 사람의 어노테이션 없이 이미지를 객체 단위로 분해하는 것을 목표로 한다. 주류 방법의 한 계열은 Slot Attention을 사용해 이미지 특징을 객체 수준 표현으로 집약한 뒤, 이를 바탕으로 마스킹된 이미지 내용, 즉 랜덤 마스킹(Random Masking, RM)을 재구성하여 자기지도 학습 신호를 제공한다. 최근 방법인 DIAS는 이미지 패치를 균일한 무작위성으로 단순히 마스킹함에도 경쟁력 있는 객체 발견 정확도를 달성한다. 집약 과정의 어텐션은 이미 객체 발견 능력을 갖고 있으므로, 이를 활용해 더 나은 이미지 패치 마스킹 전략, 즉 어텐션 유도 마스킹(Attention Guided Masking, AGM)을 개발하고 더 나은 자기지도 학습을 제공하는 방안을 탐구한다. 여섯 개의 널리 인정된 데이터셋에서의 결과는 AGM가 RM보다 항상 우수한 것은 아님을 보여준다. 무조건적 슬롯 초기화 하에서 AGM는 사실적인 텍스처를 가진 데이터셋(COCO 및 VOC)에서 배경 분할을 크게 개선한다. 조건부 또는 무조건적 슬롯 초기화 여부와 데이터셋을 불문하고, 전경 객체 발견은 비슷한 수준이거나 감소한다. OCL 커뮤니티의 동료 연구자들에게, 마스킹 디코딩으로 OCL을 개선하기 위해 내부 어텐션 의미를 활용하려는 시도는 위험할 수 있다고 제안한다. 소스 코드, 모델 체크포인트 및 평가 로그는 https://github.com/und-entropy/Does-Attention-Guided-Masking-Really-Help-Object-Discovery-in-Object-Centric-Learning-. 에서 이용할 수 있다.
3D 가우시안 스플래팅(3D Gaussian Splatting, 3DGS)은 실시간 고품질 렌더링을 제공하지만, 급격한 외관 변화와 일시적 객체로 다중 뷰 일관성이 깨지는 제약 없는(in-the-wild) 장면에서는 여전히 한계가 있다. 기존 방법은 독립적이고 이산적인 임베딩에 근본적으로 의존하여 연속적인 환경 변화를 포착하거나 공간적으로 변하는 국소 조명을 모델링하기 어렵다. 이러한 한계를 해결하기 위해, 제약 없는 설정에서 강건한 3D 장면 복원과 생성형 외관 합성을 위한 통합 프레임워크 \textbf{WilLaGS}를 제안한다. 구체적으로, $\beta$-VAE가 전역 외관의 구조화되고 연속적인 매니폴드를 학습하는 생성형 외관 모델을 도입한다. 잠재 코드에 조건화하여, 공간적으로 변하는 국소 조명 효과를 인코딩하는 동적 Tri-Plane 특징을 생성하는 3D 신경 외관 필드를 구축한다. 나아가 일시적 아티팩트를 억제하기 위해, 교사-학생(Teacher-Student, EMA) 아키텍처로 안정적인 장면 합의를 도출하고 지각적 불일치로 일관되지 않은 영역을 강건하게 식별하는 자기지도 지각 마스킹 메커니즘을 제시한다. 여러 데이터셋에 대한 광범위한 실험을 통해 \textbf{WilLaGS}가 실시간 렌더링 효율을 유지하면서 복원 품질과 새로운 시점 외관 합성에서 최첨단 성능을 달성함을 보인다.
다분기(multi-branch) 아키텍처와 CNN-트랜스포머 융합은 상보적인 표현을 결합함으로써 차량 재식별(re-identification, Re-ID) 성능을 높인다고 널리 여겨진다. 본 연구는 DINOv3 사전학습(pre-training) 백본에 대해 이를 재검토한다. DINOv3로 사전학습된 단일 ConvNeXt가 조정된 레시피로 시각적 단서만으로 VeRi-Wild Small에서 88.19 mAP, Large에서 77.47 mAP에 도달하며, 이는 프로토콜 검증된 최강의 메타데이터 의존 다분기 기준선이 겪는 평가(evaluation) 및 최적화(optimization) 잡음을 합친 범위 안에 있다. 학습 없는(training-free) 재순위화(re-ranking)를 쓰면 92.38/83.68에 이른다. 이 기준선과 검색(retrieval) 수준의 분기 진단을 바탕으로, 이 규모에서 표현 다양성(representational diversity)이 여전히 이득을 주는지 묻는다. 우리 실험에서는 그렇지 않다. 두 벤치마크(benchmark)와 수렴한 모든 설정에 걸쳐, 공유 백본 위 여러 헤드를 연결(concatenate)하면 최고 단일 헤드 대비 mAP가 어느 방향으로든 1점 미만만 움직이는데 임베딩(embedding) 차원은 네 배가 든다. 연결 벡터 분산의 99.7%가 512개 주성분(principal components)에 놓이므로, 헤드들은 서로를 중복할 뿐 아니라 각각 명목 2048차원의 4분의 1만 실질적으로 차지한다. 아키텍처적 한계까지 다양성을 밀어붙여 CNN 대 트랜스포머(transformer)를 비교할 때, 비대칭 고정-앵커(asymmetric frozen-anchor) 방식으로 융합에 모든 이점을 부여한다. 그럼에도 모든 트랜스포머 설정은 ConvNeXt 백본보다 13–15 mAP 낮고, 질의별 paired bootstrap은 우리가 얻은 가장 유리한 스냅샷에서도 융합 이득을 +0.11 mAP(95% CI)로 한정한다. 적절한 레시피와 재순위화를 갖춘 하나의 강력한 백본이 효율성 전선(efficiency frontier)이다. 모든 결과는 단일 시드 학습(training)과 하나의 foundation model 계열을 사용한다. 따라서 이 크기의 차이는 순위(ordering)가 아니라 경계(bounds)로 보고하며, 반증 조건(falsifiers)을 나열한다.