PyTorchKR Papers

최신 논문

총 5,358편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2605.07554v2cs.LG

ProteinJEPA: 잠재 예측이 단백질 언어 모델 사전학습을 개선한다

ProteinJEPA: Latent prediction improves protein language model pretraining

단백질 언어 모델은 주로 마스크된 언어 모델링(MLM)으로 학습되며, 이는 마스크된 아미노산 종류를 예측한다. 공동 임베딩 예측 아키텍처(JEPA)는 대신 잠재 표현을 예측하지만, 단백질에는 아직 적용되지 않았다. ProteinJEPA는 마스크되지 않은 서열이 주어졌을 때 teacher의 절반 깊이 은닉 상태를 예측하기 위한 코사인 손실로 MLM을 보완한다. 19개 태스크에서, 35M 및 150M 파라미터 ESM2와 세 가지 사전학습 시드 기준으로 MLM+JEPA는 114번 비교 중 78번과 76번에서 연산량 맞춤 및 스텝 맞춤 MLM 단독 지속 학습을 능가한다(14번 패배, 22번 동률). 연산량 맞춤 중앙값 이득은 구조·상동성 민감 태스크에서 $+0.0106$, 그 외에서는 $+0.0041$이며, SCOPe-40 검색과 원격 상동성에서 각각 Recall@1 6.1퍼센트포인트, 정확도 2.7포인트 향상이 앞선다. 이러한 태스크에서의 이득은 모델 크기 8M에서 150M까지 커질수록 증가한다. 기성 체크포인트 대비 MLM+JEPA는 114번 비교 중 81번에서 이기며(중앙값 $+0.0068$), MLM 손실은 개선하지 않는다. 무작위 초기화에서는 이득이 더 작고 시드 간 재현이 일관되지 않다($p{=}0.059$). 동일한 방법은 인과적 ProGen3 모델도 개선하여 16개 태스크 중 12개에서 연산량 맞춤 다음 토큰 예측 대조를 이긴다. ablation에 따르면 코사인 손실이 평균제곱 오차보다 낫고, 더 얕은 타깃을 추가하면 태스크 이득의 대부분이 사라진다. JEPA 단독 학습은 다운스트림 성능이 붕괴한다: 잠 latent 예측은 MLM을 대체하기보다 보완한다. Code: https://anonymous.4open.science/r/protJepa-FF24

arXiv:2601.13566v2cs.LG

일관성 최적화로서의 자기 개선: 이론적 설명

Self-Improvement as Coherence Optimization: A Theoretical Account

언어 모델은 외부의 지도 없이도 정확도를 향상시킬 수 있을까요? 토론(debate), 부트스트랩(bootstrap), 내부 일관성 최대화(internal coherence maximization)와 같은 방법들은 골든 파인튜닝(golden finetuning) 성능에 필적하기까지 하며 이러한 놀라운 성과를 달성합니다. 그러나 이들이 왜 작동하는지는 이론적으로 여전히 불분명합니다. 본 논문에서는 이러한 방법들이 모두 가장 압축 가능하고 공동으로 예측 가능한 문맥-행동 매핑(context-to-behavior mapping)을 탐색하는 '일관성 최적화(coherence optimization)'로 이해될 수 있음을 보입니다. 이때 토론은 그 정확한 사례이며, 부트스트랩과 내부 일관성 최대화는 이와 밀접한 관련이 있습니다. 또한 일관성 최적화가 기술 길이 정규화(description-length regularization)와 동등함을 증명하며, 이러한 모든 정규화 방식 중 사전학습된 모델에서 도출된 사전 확률(prior)을 사용하는 일관성 정규화가 준지도 학습(semi-supervised learning)의 최악 조건 정확도(worst-case accuracy) 하한을 최적화함을 증명합니다. 예비 실험을 통해 뒷받침되는 본 이론은 피드백 없는 자기 개선(feedback-free self-improvement)이 왜 작동하는지 설명하고, 이것이 언제 성공하거나 실패할지 예측합니다.

arXiv:2505.12576v3cs.LG

AdaDim: SSL 표현 역학을 위한 차원성 적응

AdaDim: Dimensionality Adaptation for SSL Representational Dynamics

효과적인 자기 지도 학습(SSL)의 핵심 요인 중 하나는 차원 붕괴(dimensional collapse)를 방지하는 것으로, 고차원 표현 공간($R$)이 더 낮은 차원의 부분공간만을 span하는 현상이다. 따라서 SSL 최적화 전략은 $R$에서 특징의 비상관화(decorrelation) 또는 샘플 균일성(sample uniformity)을 장려하는 목적 함수를 통해 모델이 더 높은 차원성 $H(R)$을 갖는 $R$을 만들도록 유도한다. 더 높은 $H(R)$은 $R$이 더 큰 특징 다양성을 갖는다는 뜻이며, 이는 하류(downstream) 과제로의 일반화(generalization)에 유용하다. 차원성 최적화와 병행하여 SSL 알고리즘은 $R$을 임베딩 공간 $Z$로 매핑하는 projection head도 사용한다. 최근 연구는 projection head를 상호정보 $I(R;Z)$를 줄임으로써 SSL 목적 함수에서 유래한 잡음성 또는 무관한 특징을 걸러내는 필터로 특성화했다. 따라서 현재 문헌의 견해는 좋은 SSL 표현 공간이 높은 $H(R)$과 낮은 $I(R;Z)$을 갖어야 한다는 것이다. 그러나 SSL에 대한 이 관점은 두 항 사이의 관계에 영향을 미치는 근본적인 학습(training) 역학에 대한 이해 측면에서 부족하다. 우리 분석에 따르면, 최고 성능의 SSL 모델은 $H(R)$이 가장 높거나 $I(R;Z)$가 가장 낮은 것이 아니라, 두 요소 사이의 균형에 효과적으로 도달한다. 이 분석을 활용하기 위해 우리는 AdaDim을 제안한다. AdaDim은 SSL 학습 역학을 활용하여, 특징 비상관화와 샘플 균일성을 통한 $H(R)$ 증가와, 학습이 진행됨에 따른 $I(R;Z)$의 점진적 정규화(regularization) 사이를 적응적으로 균형 잡는 학습 전략이다. 우리 방법은 queue, clustering, predictor network, student-teacher 아키텍처와 같은 비용이 큰 기법을 쓰지 않았음에도 공통 SSL baseline 대비 최대 3%의 성능 향상을 보인다.

arXiv:2609.28414v1cs.CV

동결 Flow는 잊는다: Latent-flow 월드 모델에서 소실된 움직임의 진단과 복원

Frozen Flows Forget: Diagnosing and Restoring Lost Motion in a Latent-flow World Model

동결된 자기지도(self-supervised) 잠재(latent) 공간에 flow를 통합한 latent 월드 모델은 안정적이고 저렴하게 학습되지만, 조작(manipulation)이 가장 의존하는 속성인 움직임(motion)을 조용히 잃어버린다. 사전학습된 flow는 조작 대상을 전혀 움직이지 않으며, latent만 사용하는 손실로 재학습하면 정지 상태와 텔레포트처럼 움직이는 motion 사이를 바꾸는 것에 그친다. 우리는 실패 원인을 표현(representation)이 아니라 학습(training) 신호에 두며, anchor-sparse하고 latent만 사용하는 supervision은 horizon을 따라 변화가 어디에 속하는지 말해주지 못한다. Decode-augmented rollout 학습(DART)은 표현을 동결한 채 flow만 decode-path supervision으로 재학습하여 이를 수정한다. DART는 전체 프로토콜에서 latent-only 부모 모델을 능가하고, motion의 시간적 구조를 복원하며, 예측 motion을 장면(scene)과 다시 결합한다; 더 큰 규모에서는 예측 품질이 더 개선되어 oracle-informed interpolation reference까지 남은 격차의 거의 절반을 줄인다. 마지막으로 평가에 관한 예상치 못한 발견을 보고한다: 픽셀 오류만으로는 동결된 예측을 보상한다.

arXiv:2609.28187v1cs.CV

두 개의 글로벌 크롭만으로 충분: DINO 스타일 자기지도 학습에서 시맨틱 창발의 위치

Two Global Crops Suffice: Locating Semantic Emergence in DINO-Style Self-Supervised Learning

DINO 스타일 목적 함수로 학습된 자기지도 비전 트랜스포머는 시각 과제 전반에서 놀라운 수준의 창발적 시맨틱 표현 품질을 보이지만, 이러한 행동을 뒷받침하는 메커니즘은 여전히 불명확하다. 우리는 DINO 계열에 대한 체계적인 실증적 해부를 제시하고, 시맨틱 표현이 주로 동일한 이미지 인스턴스의 기하학적으로 서로 다른 글로벌 뷰(global view) 사이의 일관성을 강제함으로써 형성됨을 보인다. 이 인스턴스 특이적 글로벌 정렬은 DINO 스타일 학습의 시맨틱 닻(anchor) 역할을 한다. 시맨틱 대응(semantic correspondence)과 다양한 2D 및 3D 다운스트림 과제에서 평가한 통제된 재학습 실험 전반에서, 패치 수준 마스킹 목적은 이 글로벌 정렬과 공동으로 학습될 때만 시맨틱을 향상시키며, 이는 iBOT 목적이 독립적으로 시맨틱 구조를 생성하기보다 기존 시맨틱 구조를 정제하고 조밀하게 한다는 것을 시사한다. 대조적으로, 로컬-투-글로벌 뷰 정렬은 순수한 글로벌 정렬을 넘어 고정된 연산량에서 시맨틱 특성을 실질적으로 개선하지 않는다. 학습 설계를 넘어, 시맨틱 표현 품질을 어떻게 평가해야 하는지를 재검토한다: 분류 정확도가 표준 검증 점수인 반면, 시맨틱 대응은 다운스트림 과제 성능을 더 신뢰성 있게 예측하는 보완적 축을 제공한다. 종합하면, 이러한 발견은 DINO 스타일 학습의 기능적 분해를 제공하며, 자기지도 비전 모델에서 시맨틱 표현이 어떻게 창발하는지 이해하는 데 중요한 한 걸음을 나타낸다.

arXiv:2609.27988v1cs.CV

비전 트랜스포머 특징 공간을 위한 태스크 유도 리만 메트릭

Task-Induced Riemannian Metrics for Vision Transformer Feature Spaces

비전 트랜스포머(ViT) 특징(feature) 공간에서 작동하는 방법들은 일반적으로 유클리드 거리나 코사인 유사도에 의존합니다. 이는 모든 방향이 동등하게 유의미하다고 가정하지만, 실제 태스크 기하학이 이러한 특성을 가진다고 볼 근거는 없습니다. 특징 공간의 태스크 민감 기하학은 풀백 메트릭(pullback metric) $g(F) = J(F)^\top J(F)$로 주어지며, 여기서 $J$는 태스크별 거리에 입력되는 디코더 출력을 특징에 대해 미분한 야코비안(Jacobian)입니다. 현대적인 규모에서는 전체 $g$를 저장하는 것이 불가능하며, 깊이 맵과 같은 조밀한(dense) 출력의 경우에는 $J$를 형성하는 것조차 비실용적입니다. 본 연구에서는 이 메트릭의 저순위 근사(low-rank approximation)를 학습할 수 있는지 여부가 모델-디코더 쌍에 따라 달라짐을 보이고, 적은 수의 야코비안-벡터 곱으로 계산 가능한 행렬 불필요(matrix-free) 진단 지표 $\kappa_{cap}(r)$로 이를 특성화합니다. 다루기 쉬운(tractable) 쌍에 대해 무작위 거듭제곱 반복(randomized power iteration)으로부터 메트릭의 저순위 버전을 학습하는 Spectral Pullback Network(SPN)를 개발하고, 이를 특징으로부터 토큰(token) 중요도를 직접 예측하는 $310$K 매개변수(parameter) 중요도 헤드로 지식 증류(distillation)합니다. 야코비안 스펙트럼이 너무 분산되어 저순위 근사가 어려운 경우, 디코더의 입력 특징을 VAE 병목(bottleneck)에 통과시켜 취급 용이성을 회복할 수 있습니다. DPT, DINOv2, CLIP, VGGT 백본 전반에 걸쳐 $\kappa_{cap}(r)$은 어떤 학습 메트릭 아키텍처가 실현 가능한지 예측합니다. 중요도 헤드는 DINOv2 CLS에서 스피어만(Spearman) $\rho = 0.998$에 도달하며, 본 연구의 기하학적 토큰 가지치기(pruning)는 ViT를 미세조정(fine-tuning)하지 않고도 가지치기 비율 $0.5$의 DPT 깊이 추정에서 ToMe 기반 토큰 선택의 추가 깊이 오차를 $25\%$ 감소시킵니다. 프로젝트 페이지: https://cyberiada.github.io/TaskInducedViTs/

arXiv:2609.27915v1cs.CV

UVU: 비전-언어 통합 자기회귀 패러다igm을 통한 멀티모달 이해 향상

UVU: Improving Multimodal Understanding via Vision-Language Unified Autoregressive Paradigm

멀티모달 대규모 언어 모델(MLLM)이 눈에 띄게 발전했음에도, 세밀한 시각 이해는 주로 희소한 텍스트 감독에 의존하기 때문에 제한된다. 시각 감독을 도입하려는 기존 시도는 대개 사후 학습 단계에서 이루어지며, 그때는 시각 표현이 이미 대부분 고정되어 있어 해당 신호가 지각 특징을 형성하는 주된 힘보다는 보조적 제약으로 작용하는 경우가 많다. 본 논문에서는 사전학습 단계에 시각 감독을 직접 통합하여 모델의 지각 백본을 근본적으로 재구성하는 것을 목표로 한다. 픽셀 수준의 이미지 패치와 텍스트 토큰이 본질적인 입력 대칭성을 갖는 공유된 원시 고차원 공간에 자연스럽게 공존한다는 점을 관찰한다. 이 통찰을 바탕으로 벡터 양자화를 배제하는 새로운 비전-언어 통합 자기회귀 프레임워크인 UVU를 제안한다. UVU는 시각 입력의 무손실 표현을 위해 연속 시각 인코딩을 독특하게 사용하고, 픽셀 수준의 시각 코드북을 구성하기 위한 대규모 반복적 계층적 클러스터링 알고리즘을 제안하여 통합 감독을 위한 어휘를 확장하고 텍스트 토큰과 함께 픽셀 수준 이미지 토큰의 자기회귀 생성을 가능하게 한다. UVU는 픽셀 수준 시각 지각과 의미 수준 시각 이해를 효과적으로 시너지시키며, 시각 재구성 능력을 내재화하고 사전학습 단계에서 이해를 향상시키는 시각 감독의 촉진적 역할을 이끌어낸다. 여러 과제에 걸친 광범위한 실험은 MLLM이 UVU의 감독 학습 패러다igm 하에서 더 우수한 멀티모달 이해 성능을 달성할 수 있음을 보여준다.

arXiv:2609.26924v1cs.CV

nnFoundation: 방사선학을 위한 3D 파운데이션 모델

nnFoundation: 3D Foundation Models for Radiology

방사선 인공지능은 빠르게 발전했으나, 대부분의 시스템은 여전히 좁은 범위의 과제에 특화되어 있고 데이터 집약적이며 도메인 이동(domain shift) 환경에서 취약하다. 파운데이션 모델은 더 전이 가능하고 데이터 효율적인 해결책을 약속하지만, 기존 접근은 규모가 제한적이고 평가 범위가 좁으며, 종종 단일 사전학습 모델이 다양한 다운스트림 과제를 지원할 수 있다고 가정한다. 본 연구에서는 상보적인 합성곱 및 트랜스포머 기반 3D 방사선학 파운데이션 모델 nnFoundation을 제시한다. Human Radiome Project(THRP) 내에서 개발된 nnFoundation은 125개의 기관 및 공개 데이터셋으로부터 2.1백만 건의 CT, MRI, PET 영상 볼륨으로 학습되었다. 세그멘테이션, 검출, 분류, 리포트 생성, 이미지 검색에 이르는 108개 과제에서 이를 평가했으며, 도메인 이동 하에서의 평가, 외부 파트너에 의한 평가, 저데이터 및 저연산 환경에서의 평가를 포함한다. 모든 과제 유형에서 합성곱 및 트랜스포머 기반 nnFoundation 모델은 기존 3D 파운데이션 모델과 처음부터 학습하는 방법 모두를 일관되게 능가하여 방사선 영상 분야 최신(state-of-the-art) 성능을 확립했다. 다만 성능은 일관된 과제 의존적 구조를 따른다. 합성곱 nnFoundation 모델은 공간적으로 국한된 과제에서 우세하고, 트랜스포머 기반 nnFoundation 모델은 전역적 의미 추론이 필요한 과제와 고정 특징(frozen-feature) 설정에서 뛰어나다. 사후적으로 파운데이션 모델 토폴로지를 데이터셋 특성에 동적으로 정렬하면 이질적인 3D 환경에서의 전이를 더욱 개선한다. 이러한 결과는 전이 가능한 3D 방사선학 성능이 단일 범용 모델이 아니라 확장 가능한 사전학습, 상보적 아키텍처, 데이터셋 인지 적응의 상호작용에 의해 좌우됨을 보여준다. nnU-Net 및 nnDetection에 통합된 nnFoundation 모델을 공개하여 기존 방사선학 워크플로에 즉시 적용할 수 있게 한다.

arXiv:2609.26299v2cs.CV

ForeDrive: 계획 관련 잠재 월드 모델을 활용한 예측 유도형 엔드투엔드 자율주행

ForeDrive: Foresight-Guided End-to-End Autonomous Driving with a Planning-Relevant Latent World Model

기존 잠재 월드 모델(latent world model)은 일반적으로 미래 예측 가능성에 맞춰 최적화되지만, 그 결과로 얻어지는 표현(representation)이 자율주행의 계획 수립에 반드시 유용한 것은 아닙니다. 예측값은 궤적 생성을 위한 직접적인 조건화 신호로 사용되기보다는 사전학습(pre-training)이나 보조적인 지도 신호로 활용되는 것이 일반적입니다. 본 논문에서는 계획 관련 잠재 표현을 학습하고 이를 확산 트랜스포머(Diffusion Transformer, DiT) 플래너와 비대칭적으로 결합하는 ForeDrive를 제안합니다. 이 플래너는 JEPA 스타일의 월드 모델로 학습된 다중 시계 잠재 미래 표현(multi-horizon latent future representation)을 입력받으며, 계획 수립 그래디언트는 공유 온라인 인코더를 업데이트하는 반면, 그래디언트 중단(stop-gradient) 라우팅을 통해 잠재 예측기(latent predictor)는 예측 손실만으로 학습됩니다. 예측된 미래는 시계(horizon)에 따라 신뢰도가 상이하고 BEV 궤적은 이미지 토큰과 정렬되지 않으므로, 게이트형 시각 융합(gated visual fusion), 미래 상태 주입(future-status injection), 궤적 적응형 바이어스(Trajectory-Adaptive Bias, TAB)를 사용하여 현재 관측값을 덮어쓰지 않고 미래 잠재 변수를 유도 신호로 주입합니다. 순수 모방 학습(imitation learning)으로 학습되고 추론 시 현재 전방 뷰 이미지만을 시각적 입력으로 사용함에도 불구하고, ForeDrive는 강화학습이나 외부 궤적 스코어러 없이도 NAVSIM v1에서 89.9 PDMS, NAVSIM v2에서 단일 단계(one-stage) 90.0 EPDMS를 달성합니다.

arXiv:2609.26290v1stat.ML

변동성 학습: 인과 표 형식 사전학습의 통계적 기초

Learning to Fluctuate: Statistical Foundations for Causal Tabular Pretraining

인과 표 형식 파운데이션 모델은 합성 메커니즘 전반에 걸쳐 효과 추정을 상각(amortize)하지만, 잠재 효과(latent-effect) 지도학습은 고정된 배포 모집단에서 필요한 반복 표본 반응을 직접 인코딩하는 대신 사후 분포 수축(posterior shrinkage)을 보상한다. 본 논문에서는 변동 지도 사전학습(fluctuation-supervised pretraining, FSP)을 제안한다. 각 합성 테이블은 평균 처치 효과(ATE)와 그 효율적 영향 함수(efficient influence-function) 변동의 합으로 레이블링되며, 배포 시에는 여전히 단일 고정 순전파만 수행한다. 경로 $T_{\lambda,P}=\theta(P)+\lambda P_n\psi_P$를 따라 끝점 전이(endpoint transition)를 증명한다. 즉, 고정된 모든 $\lambda<1$에서는 $(1-\lambda)^2/n$ 차수의 레이블 모호성이 남는 반면, 완전한 변동을 사용하면 가우시안 레이블을 관측할 수 있게 되어 최적의 유한 층(finite-stratum) 인과 레이블 예측 위험이 $n^{-2}$ 차수로 감소한다. 하나의 유한 사전학습 경계(bound)는 레이블 오차, 네트워크 오차, 에피소드 샘플링 오차, 최적화 오차를 결합하며, 그 결과로 얻어지는 샘플링 결함(sampling defect)은 고정 메커니즘 바이어스, 평균 제곱 오차, 분산, 가우시안 근사를 제어하고, 분산 헤드(variance-head)의 정확도가 뒷받침될 경우 스튜던트화(studentized) 커버리지까지 제어한다. 상호 보완적인 하한(lower bound)은 배포 관측으로도 제거할 수 없는 국소적 $n^{-1}$ ATE 위험과, 일반적인 유한 사전(finite-dictionary) 에피소드 학습 문제의 $\log N/M$ 초과 위험을 분리한다. 실험은 학습된 샘플링 반응을 추적한다. 원시 행/열(raw-row/column) 백본을 사용할 때, FSP는 대규모 효과 이동(large-effect-shift) 상황에서 RMSE를 잠재 지도학습 대비 69.8%, 동일 테이블에서 공개된 CausalPFN 체크포인트 대비 39.5% 감소시킨다. 연속 공변량 실험, 효과가 알려진 반합성(semisynthesis) 실험, 그리고 두 건의 무작위 연구 평가는 샘플링 법칙 충실도(sampling-law fidelity)와 점 위험 수축(point-risk shrinkage)을 분리하고, 두 학습된 헤드 모두에서 약한 중첩(weak-overlap) 오차가 나타남을 보여준다.

arXiv:2609.25007v1eess.AS

짧은 구간을 넘어서: 벡터 아카이브로 화자 임베딩 확장

Beyond Short Segments : Expanding Speaker Embeddings with Vector Archives

최신 화자 검증(SV) 시스템은 짧은 발화에서는 화자 고유 정보가 부족해 성능이 크게 저하된다. 이 문제에 대응하기 위해, 짧은 길이 음성에서 특징 추출을 강화하도록 설계한 Vector Archive Mapping ECAPA(VAM-ECAPA)라는 새로운 시스템을 제안한다. 본 시스템의 핵심은 트랜스포머 기반 Vector Archive Mapping with Statistical Pooling(TVAMSP) 모듈로, 정보가 빈약한 특징을 학습 가능한 표준 화자 특성 Vector Archive에 매핑하여 풍부하게 만든다. TVAMSP 모듈을 강력한 WavLM+ECAPA-TDNN 기준선에 통합함으로써, 짧은 구간의 희소 특징을 견고하고 판별력 있는 화자 표현으로 매핑하도록 학습한다. VoxCeleb1 벤치마크 실험에서 제안 VAM-ECAPA는 1초 테스트 구간에서 EER 8.334%라는 매우 경쟁력 있는 성능을 달성했으며, 이는 관례적으로 학습한 기준선 대비 상대 오류 54.8% 감소에 해당한다.

arXiv:2609.11870v2cs.CL

Augustinian BabyLM: 시범적 정의가 소형 언어 모델에 가르칠 수 있는 것과 없는 것

Augustinian BabyLM: What Ostensive Definition Can and Cannot Teach a Small Language Model

언어 모델은 보통 무작위 단어 임베딩으로 학습을 시작한다. 'banana'가 무엇을 의미하는지는 반드시 학습 코퍼스에서 배워야 한다. 나는 성 아우구스티누스의 단어 학습 관—지시(ostension)를 통한 의미 부여—를 1천만 단어로 학습한 소형 마스크드 언어 모델(DeBERTa)에 구현한다. 학습 전에 시각적으로 그라운딩된 토큰은 자신이 라벨하는 이미지 영역에서 유도한 임베딩을 받고, 다른 토큰은 무작위로 시작한다. 시각적 초기화는 학습 종료 시점까지 지속되는 측정 가능한 흔적을 남긴다. 한편 추상적 문법 지식을 탐색하는 대부분의 BabyLM 벤치마크에서는 그 효과가 드러나지 않으며, 시각적 초기화는 그곳에서 성능에 영향을 주지 않는다. 유일한 제로샷 예외는 객체-속성 지식(COMPS)으로, 모든 구성에서 시딩(seeding)이 도움이 된다. 이 결과를 이어가기 위해, 색·재질·크기·형태 지식을 시험하고 항목별 학습 빈도와 시드 여부를 포함한 Visual-Property Swap 벤치마크의 코퍼스 맞춤 버전을 구축한다. 여기서 시각 시드(vision-seeded) 모델은 지속적이고 시드가 재현되는 이점을 보인다. 기능어와 추상 어휘도 강한 시각 시드를 받아 학습 내내 유지하며, 학습 목적 함수가 이를 활용한다. 모든 시드에서 이 단어들에 대한 홀드아웃 마스크 예측 손실이 감소한다. 그러나 내가 실행한 어떤 벤치마크도 이를 포착하지 못한다. 이를 잡아낼 평가가 무엇인지는 여전히 열린 질문이다.

arXiv:2607.01733v2cs.CL

ASR을 위한 Speech-LLM 통합의 재고: 인터리빙을 통한 효과적인 음성-텍스트 공동 학습

Rethinking Speech-LLM Integration for ASR: Effective Joint Speech-Text Training by Interleaving

자동 음성 인식(ASR)에서 대규모 언어 모델(LLM)의 텍스트 사전학습 지식이 ASR 학습 데이터 증가에 따라 희석되는 문제를 해결하기 위해, 정렬된 음성-텍스트 쌍 내에서 단어 및 세그먼트 단위로 두 모달리티를 교차 배치하는 사전학습 전략인 JSTIP(Joint Speech-Text Interleaved Pretraining)을 제안한다. 38,000시간 ASR 데이터 실험에서 JSTIP은 ASR 전용 학습 및 단순 음성-텍스트 공동 학습 대비 일관된 개체명 인식 정확도 향상을 달성하였으며, 제로샷 음성 질의응답 능력도 보존함을 확인했다.

arXiv:2609.24385v1cs.RO

Tactile-JEPA: 분산 촉각 센서를 위한 위상 인식 자기지도 표현 학습

Tactile-JEPA: Topology-Aware Self-Supervised Representation Learning for Distributed Tactile Sensors

촉각 감지는 접촉이 많고 능숙한 조작, 특히 시각적 가림 상황에서 로봇이 수행하는 데 필수적인 양식이다. 로봇 학습 파이프라인에서는 사전학습된 이미지 인코더가 표준이지만, 촉각 인코더는 여전히 원시의 노이즈가 많은 신호로부터 처음부터 학습되는 경우가 많아 표현력이 제한될 수 있다. 기존 자기지도 학습(SSL) 접근법은 주로 비전 기반 촉각 센서에 초점을 맞추어 분산 전자 피부는 대체로 다루지 않았다. 그러나 이러한 센서는 감지 요소가 덮는 표면 위에 sparse하고 불규칙하게 배치된다는 독특한 특성을 가지며, 이로 인해 시각 SSL 방법을 그대로 재사용하기는 최적이 아니다. 본 논문은 촉각 센서의 공간 배치를 이용해 위상 인식 표현을 학습하는 효율적인 자기지도 사전학습 방법 Tactile-JEPA를 제안한다. 구체적으로, 공간 마스킹을 안내하기 위해 센서 연결 그래프를 사용하여 마스킹되지 않은 나머지로부터 마스킹된 감지 요소의 임베딩을 예측하도록 학습한다. 분석 결과, 효과적인 촉각 표현은 국소 접촉 세부와 촉각 표면의 전역 상태를 모두 포착해야 하며, 이를 이중 스케일 마스킹으로 달성한다. 자기 및 압저항 센서, 서로 다른 로봇 형태, 단일 및 쌍 센서 구성을 아우르는 세 가지 다양한 데이터셋에서 Tactile-JEPA는 기존 최신 방법 대비 힘 추정 오류를 6.3%, 손안 방향 오류를 20.8% 줄였으며, 정책 학습을 포함한 다른 하류 응용에서도 일관된 향상을 보였다. 종합하면, 촉각 감지의 이점은 인코더 사전학습의 품질에 크게 좌우되며, Tactile-JEPA가 이 문제를 직접 해결함을 보여준다. 코드는 https://github.com/E-Kovtun/tactile 에서 제공된다.

arXiv:2609.23152v1cs.SD

Bearings: 1차 앰비소닉스로부터 학습하는 자기지도 음장 임베딩

Bearings: Self-Supervised Soundfield Embeddings from First-Order Ambisonics

최근 제안된 자기지도 오디오 인코더들은 음향 장면에 대한 강력한 범용 표현을 학습하지만, 공간적 정보는 파악하지 못합니다. 음향 장면에 결여된 공간적 표현을 제공하기 위해, 우리는 Bearings를 소개합니다. Bearings는 라벨이 지정되지 않은 1차 앰비소닉스(Ambisonics)로부터 음장(soundfield) 임베딩을 학습하는 자기지도 프레임워크입니다. 우리는 기존의 기성 단일 채널 오디오 인코더에서 추출되어 동결된 음향 임베딩을 조건으로 사용하는 디코더와 결합된 마스크드 오토인코더(masked auto-encoder)를 사전학습(pre-training)합니다. 실험 결과, 생성된 음장 임베딩은 가벼운 학습 가능한 융합 헤드를 통해 동결된 음향 인코더에 부착할 수 있는 재사용 가능한 스트림을 형성함을 보여줍니다. 음향 이벤트 위치 추정 및 탐지(sound event localization and detection) 과제에서, 우리의 음장 임베딩을 음향 표현과 연결(concatenate)하면 결여되었던 공간 정보를 제공하고 공동 탐지 및 위치 추정을 가능하게 하여, 위치 의존적 F-점수(location-dependent F-score)를 TAU-NIGENS 2021에서 4 미만에서 50으로, STARSS23에서 39로 끌어올립니다. 우리가 아는 한, Bearings는 두 모델 모두를 재학습하지 않고도 동결된 음향 인코더에 임베딩을 바로 결합할 수 있는 최초의 자기지도 음장 인코더입니다.

arXiv:2605.11151v3cs.AI

RankQ: 자기지도 행동 순위화를 통한 오프라인-투-온라인 강화학습

RankQ: Offline-to-Online Reinforcement Learning via Self-Supervised Action Ranking

오프라인-투-온라인 강화학습(RL)은 온라인 상호작용 이전에 사전 수집된 데이터셋을 활용하여 샘플 효율성을 향상시킵니다. 그러나 데이터셋의 커버리지가 제한적인 대규모 상태-행동 공간에서 정확한 크리틱(critic)을 학습하는 것이 주요 난제로 남아 있습니다. 가치 과대추정으로 인한 유해한 업데이트를 완화하기 위해 기존 방법들은 데이터셋 행동 대비 분포 외(OOD) 행동의 가중치를 낮추는 방식으로 비관주의(pessimism)를 적용합니다. 이는 효과적이기는 하나 본질적으로 행동 복제(behavior cloning) 닻 역할을 하여 데이터셋 행동이 차선책일 경우 후속 온라인 정책 개선을 저해할 수 있습니다. 본 연구에서는 구조화된 행동 순서를 강제하기 위해 시간차 학습(temporal-difference learning)에 자기지도 다중 항 순위화 손실을 결합한 오프라인-투-온라인 Q-러닝 목적 함수인 RankQ를 제안합니다. RankQ는 보이지 않는 행동에 일률적인 페널티를 부여하는 대신 상대적인 행동 선호도를 학습함으로써 행동 그래디언트가 더 높은 품질의 행동을 향하도록 Q-함수를 형성합니다. 희소 보상 D4RL 벤치마크 전반에서 RankQ는 7개의 베이스라인 대비 경쟁력 있는 전반적 성능을 달성합니다. 비전 기반 로봇 학습에서 RankQ는 데이터가 적은 환경에서도 사전학습된 비전-언어-행동(VLA) 모델의 효과적인 오프라인-투-온라인 미세조정을 가능하게 하여, 차상위 방법 대비 평균 시뮬레이션 성공률을 38.2%p 높였습니다. 데이터가 많은 환경에서 RankQ는 차상위 방법 대비 시뮬레이션 성능을 13.7%p 향상시켰으며, VLA의 초기 성능 대비 실제 환경 큐브 쌓기 성공률을 43.1%에서 88.9%로 증가시켜 강력한 sim-to-real 전이를 입증했습니다.

arXiv:2609.24787v1cs.CV

산림 포인트 클라우드를 위한 파운데이션 모델을 향하여

Toward a foundation model for forest point clouds

산림 조사는 대규모 3D 포인트 클라우드에서 산림 특성을 도출하기 위해 인공지능(AI) 모델에 점점 더 의존하고 있습니다. 현재의 모델들은 대개 단일 작업, 센서 및 산림 유형에 특화되어 있어, 어노테이션, 연산, 전문 지식 측면에서 적응 비용이 많이 듭니다. 본 연구에서는 단일 사전학습(pre-training) 모델이 다양한 산림 조사 환경에 걸쳐 전이 가능한 표현을 학습할 수 있는지 묻습니다. 언어 모델링과 컴퓨터 비전(CV)의 최근 발전에 영감을 받아, 3D 임업을 위한 파운데이션 모델(FM)을 향한 첫걸음을 내딛습니다. LitePT를 백본으로 사용하여, 산림 시맨틱 및 인스턴스 분할, 수종 분류(classification), 수령 회귀 벤치마크에서 새로운 최고 성능(state of the art)을 달성하는 강력한 지도학습 기준선(baseline)을 먼저 구축합니다. 그런 다음 다양한 산림 생태계에 걸쳐 항공, UAV 및 모바일 레이저 스캐닝을 아우르는 대규모 레이블 미지정 코퍼스를 구축하고, 자기지도학습을 사용하여 동일한 백본을 사전학습합니다. 다양한 어노테이션 예산 하에서 네 가지 대표적인 임업 작업에 대해 스크래치 학습(training from scratch), 지도 사전학습, 자기지도 사전학습을 비교함으로써 표현 학습 전략을 체계적으로 평가합니다. 스크래치 학습과 비교하여, 자기지도 사전학습은 모델(model) 수렴(convergence)을 가속화하고 어노테이션이 부족할 때 일관되게 성능을 향상시킵니다. 작업 특화 지도 사전학습과 비교할 때, 자기지도 사전학습은 다운스트림 임업 작업 전반에 걸쳐 더 전이 가능한 표현을 생성합니다. 이러한 발견은 사전학습된 표현이 가장 가치 있는 실질적인 영역을 규명하며, 산림 시맨틱보다는 인스턴스 구별이 범용 3D 산림 파운데이션 모델로 나아가는 주된 남은 장애물임을 시사합니다. 코드와 모델은 https://github.com/prs-eth/ForPT 에서 확인할 수 있습니다.

arXiv:2609.24736v1cs.CV

MiTHras: 유사분열상 분석을 위한 작업 특화 계층적 준지도 대조 마스크드 오토인코더

MiTHras: Task-specific Hierarchical Semi-supervised Contrastive Masked Autoencoder for Mitotic Figure Analysis

유사분열상(MF, mitotic figure) 분석은 종양 등급 판정과 예후 평가를 뒷받침하지만, 자동화 모델은 조직 유형과 영상 획득 방식의 차이에 여전히 민감하다. 본 논문은 의사 레이블(pseudo-label) 기반의 이미지 및 토큰 수준 대조 학습(contrastive learning)과 마스크드 복원(masked reconstruction)을 결합한 작업 특화 사전학습(pretraining) 프레임워크인 MiTHras를 제안한다. 우리는 11개 장기 부위에 걸친 14개 TCGA 코호트에서 추출한 세포 중심 이미지 180만 장으로 구성된 코퍼스인 TCGA-MF-Pseudo를 구축한다. MF 분류(classification), 검출(detection), 개수 기반 생존 예측, 아형 분류에 대한 포괄적 평가를 통해 MiTHras의 효과를 입증한다. MiTHras는 세 가지 MF 분류 벤치마크 전부와 두 가지 아형 벤치마크 모두에서 가장 높은 평균 F1을 달성한다. 또한 MiTHras는 전체 미세조정(fine-tuning) 상황보다 인코더를 고정한 선형 프로빙(linear probing) 상황에서 범용 및 병리 파운데이션 인코더 대비 더 큰 마진(margin)으로 우수한 성능을 보인다. 검출 성능 향상은 후보 검출 단계를 공유하는 구조로 인해 다소 제한적이지만, 절제 실험(ablation)을 통해 토큰 수준 지도(supervision)가 전형-비전형(typical-versus-atypical) 분류와 선형 프로빙을 향상시킨다는 것이 확인된다. 이러한 결과는 MiTHras가 자동화된 유사분열 활성 평가를 위한 견고하고 전이 가능한 표현을 산출한다는 것을 입증한다.

arXiv:2609.24732v1cs.CV

GraphSVR: 확산 MRI를 위한 q-공간 인지 그래프 기반 슬라이스-볼륨 정합

GraphSVR: q-Space--Aware Graph-Based Slice-to-Volume Registration for Diffusion MRI

확산강조영상(DWI)은 특히 시간 효율적인 프로토콜과 움직임이 발생하기 쉬운 피험자 집단에서 피험자의 움직임에 매우 취약합니다. 슬라이스-볼륨 정합(SVR)이 슬라이스 간 및 스택 간 불일치를 완화할 수 있지만, 확산 MRI는 확산 방향에 따른 대조도와 수십 개의 측정값을 공통 기준 좌표계 내에 정렬해야 하는 요구사항으로 인해 추가적인 복잡성을 유발하며, 실질적으로 4D 정합 문제를 낳습니다. 기존 접근 방식은 주로 순차적 모델링이나 쌍별 유사도에 의존하며, 희소한 그래디언트 샘플링이나 심한 움직임 환경에서 종종 성능이 저하됩니다. 본 연구에서는 DWI의 4D SVR 정합을 위한 q-공간 인지 그래프 기반 프레임워크인 GraphSVR을 소개합니다. GraphSVR은 획득 구조화된 그래프에서 슬라이스 그룹을 노드로 표현하며, 에지는 시간적 근접성, 공간적 슬라이스 기하구조, 확산 인코딩 관계를 인코딩합니다. 그래프 신경망은 전역적으로 일관된 스택 단위 강체 운동을 예측하며, 쌍을 이루는 정답 움직임 없이 해부학적 참조 영상만을 사용하여 자기지도, 제로샷(zero-shot) 방식으로 최적화됩니다. 제어 가능한 움직임 심각도와 그래디언트 희소성을 갖는 실제 획득 기반의 사실적인 재조합 시뮬레이션 및 완전 합성 확산 시뮬레이션 모두를 사용하여 GraphSVR을 평가합니다. 성능은 알려진 정답 변환 대비 그리드 오차(mm) 및 회전 오차를 사용하여 정량화됩니다. 심각한 움직임 하에서 GraphSVR은 표준 DWI 움직임 보정 방법인 FSL eddy에 비해 그리드 오차와 회전 오차를 73% 감소시키며, 가장 큰 개선 효과는 희소 방향 영역에서 관찰됩니다. 이러한 결과는 그래프 기반 추론을 통해 획득 구조를 명시적으로 모델링하는 것이 4D DWI 움직임 추정에서 견고성과 전역적 일관성을 향상시킨다는 점을 보여줍니다. 코드는 https://github.com/nogakertes/GraphSVR.git 에서 이용할 수 있습니다.

arXiv:2609.24494v1cs.CV

CMAMBADEPTH: 채널 맘바와 하이브리드 어텐션을 활용한 자기지도 단안 깊이 추정

CMAMBADEPTH: Self-supervised Monocular Depth Estimation with Channel Mamba and Hybrid Attention

정확한 단안 깊이 추정(monocular depth estimation)은 단일 카메라 장면 이해를 위한 핵심적인 조력자 역할을 합니다. 그러나 기존의 자기지도 단안 깊이 추정 방법들은 일반적으로 비효율적인 교차 스케일 정보 상호작용과 국소(local) 및 전역(global) 공간 모델링의 균형을 맞추기 어렵다는 병목 현상을 겪고 있습니다. 본 논문에서는 채널별 선택적 상태 전파를 통해 효율적인 다중 스케일 특징(feature) 융합과 세밀한 문맥 모델링을 달성하는 자기지도 프레임워크인 CMambaDepth를 제안합니다. 구체적으로, 양방향 채널 맘바(Bidirectional Channel Mamba, Bi-CMamba)는 스케일에 걸쳐 인코더 특징을 정렬하고 순서화된 스케일 그룹 간의 양방향 정보 교환을 가능하게 합니다. 단방향 채널 맘바(Unidirectional Channel Mamba, Uni-CMamba)는 디코더 특징을 점진적으로 집약하고 후속 융합을 위한 그룹 선택 메커니즘을 통해 세밀한 스케일 그룹을 유지합니다. 나아가, 상호보완적인 공간 모델링을 위해 대형 커널(kernel) 국소 문맥과 맨해튼 자기 어텐션(Manhattan self-attention)을 결합하는 하이브리드 어텐션 모듈(Hybrid Attention Module, HAM)을 도입합니다. 실험 결과는 본 제안 방법이 매우 경쟁력 있는 성능을 달성함을 입증합니다. 구체적으로, 본 모델(model)은 KITTI에서 0.094의 AbsRel과 4.156의 RMSE를 기록하고, DDAD에서 0.140의 AbsRel을 달성합니다. NYUv2에서의 제로샷(zero-shot) 교차 데이터셋(dataset) 일반화 테스트에서는 0.232의 AbsRel을 달성하여 기준선(baseline)인 RA-Depth보다 7.2% 향상된 성능을 보입니다.