PyTorchKR Papers

최신 논문

총 5,358편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2607.01498v1cs.LG

Towards Learning Representations of Policies in Two-Player Zero-Sum Imperfect-Information Games

불완전 정보 2인 제로섬 게임에서 정책 임베딩(policy embedding)을 학습하기 위한 데이터셋 생성 방식, 표현 학습 방법(가중치 오토인코더, 함수형 인코더, 궤적 인코더 등), 그리고 평가용 다운스트림 태스크를 체계적으로 제안한다. Kuhn Poker 및 Leduc Poker 실험에서 궤적 인코더(Trajectory Encoder) 기반의 자기지도 학습(self-supervised learning)이 공격적·수동적 전략을 의미 있게 구분하는 유용한 행동 표현을 학습함을 보였다.

arXiv:2607.01401v1cs.LG

NeuroBridge: Bridging Multi-Task MRI Knowledge for Neurodegenerative Disease Diagnosis

INTRODUCTION: Accurate MRI-based identification of Alzheimer's disease (AD), mild cognitive impairment (MCI), and related dementias remains challenging because disease-related structural changes are often subtle and heterogeneous. We developed NeuroBridge, a clinically guided multi-task MRI framework for neurodegenerative disease diagnosis. METHODS: NeuroBridge integrates large-scale self-supervised MRI pretraining with hippocampal segmentation, hippocampal atrophy classification, and reconstruction objectives, followed by gated fusion fine-tuning. Performance was evaluated across ADNI and OASIS cohorts, including cross-cohort transfer, probability-based analysis, and opportunistic screening. RESULTS: NeuroBridge achieved the highest performance across evaluated classification tasks, reaching 88.17% accuracy for AD versus cognitively normal controls in ADNI and 82.78% in OASIS. The largest gains occurred in MCI-related and mixed-diagnosis settings. The framework demonstrated strong cross-cohort generalization, systematic associations between predicted-class probability and accuracy, and the feasibility of probability-based opportunistic screening. DISCUSSION: Clinically guided multi-task representation learning improves neurodegenerative MRI diagnosis beyond conventional single-task approaches. NeuroBridge provides a robust and scalable framework for dementia assessment and MRI-based opportunistic screening.

arXiv:2602.08638v2cs.LG

LEFT: Learnable Fusion of Tri-view Tokens for Unsupervised Time Series Anomaly Detection

LEFT는 비지도 시계열 이상 탐지(TSAD)를 위해 시간 도메인, 주파수 도메인, 다중 해상도의 세 가지 뷰에서 토큰을 추출하고, Nyquist 제약 학습 가능 필터뱅크와 양방향 시간-주파수 사이클 일관성 제약을 통해 크로스뷰 불일치를 이상 신호로 활용하는 통합 프레임워크다. 실험 결과, 기존 베이스라인 대비 VUS-ROC 약 3%, VUS-PR 약 6% 향상을 달성하면서 FLOPs를 80% 이상 줄이고 학습 속도는 약 8배 빠름을 확인했다.

arXiv:2602.02762v2cs.LG

On the Sample Efficiency of Inverse Dynamics Models for Semi-Supervised Imitation Learning

반지도 모방 학습(SSIL) 환경에서 역방향 동역학 모델(IDM)이 행동 복제(BC) 대비 우수한 샘플 효율성을 보이는 이유를 이론적으로 분석하며, 이는 IDM의 가설 클래스 복잡도가 낮고 전문가 정책보다 확률적 불확실성이 작기 때문임을 통계적 학습 이론과 실험으로 규명한다. 이러한 인사이트를 바탕으로 잠재 행동 정책 학습 알고리즘인 LAPO의 개선 버전(LAPO+)을 제안하고 Procgen, Push-T, LIBERO 벤치마크에서 우수한 성능을 검증한다.

arXiv:2607.00850v1cs.CV

반사 인식 자기지도 표현 학습을 위한 Mirror-Fusion 어텐션

Mirror-Fusion Attention for Reflection-Aware Self-Supervised Representation Learning

의료 영상과 얼굴 이미지처럼 양측 대칭 구조를 가진 데이터에서 기존 자기지도 학습(SSL)의 엄격한 좌우 반전 불변성이 진단에 중요한 비대칭 정보를 억제한다는 문제를 해결하기 위해, MFASSL은 백본 재설계 없이 경량 Mirror-Fusion Attention(MFA) 모듈과 반사 일관성 손실을 표준 ViT SSL에 결합한 프레임워크를 제안한다. CheXpert, BraTS, CelebA-HQ, WFLW 벤치마크에서 MoCo-v3, DINO, MAE 대비 다운스트림 성능과 반사 견고성을 향상시켰으며, 약 2.7%의 추가 파라미터만으로 기존 등변(equivariant) SSL 방법보다 일관된 성능 향상을 달성했다.

arXiv:2607.00784v1cs.CV

LeVLJEPA: 네거티브 없는 엔드-투-엔드 비전-언어 사전학습

LeVLJEPA: End-to-End Vision-Language Pretraining Without Negatives

LeVLJEPA는 기존 비전-언어 사전학습에서 지배적이던 대조 학습(contrastive learning) 방식을 대체하는 최초의 완전 비대조적(non-contrastive) 엔드-투-엔드 비전-언어 사전학습 방법으로, 네거티브 샘플, 온도 파라미터, 모멘텀 인코더 없이 크로스 모달 예측과 SIGReg 기반 분포 정규화만으로 학습한다. 동결된 시각 백본으로 활용 시 GQA, VQAv2, POPE에서 대조적 기준선을 능가하고 시맨틱 세그멘테이션에서도 우수한 성능을 보여, 비대조적 사전학습이 패치 토큰 수준의 밀집 의미론적 특징 품질에서 특히 효과적임을 입증한다.

arXiv:2607.00780v1cs.CV

SpiralFovea: 자원 적응형 추론의 세 번째 레버로서의 입력 적응형 포비에이티드 토큰화

SpiralFovea: Input-Adaptive Foveated Tokenization as a Third Lever of Resource-Adaptive Inference

SpiralFovea는 파운데이션 모델의 적응형 추론에서 기존 아키텍처·어텐션 조정에 이어 세 번째 레버인 입력 토큰 집합 자체를 제어하는 파라미터 없는(parameter-free) 입력 적응형 토크나이저로, 백본 실행 전에 지역 시각적 엔트로피를 기반으로 콘텐츠 중심 핫스팟 주변에 다중 스케일 나선형 링 패치(≤78개)를 배치한다. 네 가지 세밀 분류(fine-grained) 벤치마크에서 표준 196-패치 ViT 대비 입력 토큰 60%, 셀프-어텐션 FLOPs 84% 절감과 함께 정확도 +1.7~2.1 pp 향상 및 처리량 18~29% 개선을 달성하며, 자기지도 학습(self-supervised) 파운데이션 모델에서 효과가 가장 두드러짐을 보인다.

arXiv:2607.00687v1cs.CV

LUMA: 경량 범용 마스크 어댑터를 통한 분할 벤치마킹

LUMA: Benchmarking Segmentation via a Lightweight Universal Mask Adapter

LUMA(Lightweight Universal Mask Adapter)는 이미지 분할 벤치마킹에서 백본마다 서로 다른 디코더와 레시피가 혼재하는 문제를 해결하기 위해, 어떤 백본에도 수정 없이 부착 가능한 경량 백본-무관 마스크 트랜스포머 헤드를 제안한다. ADE20K와 Cityscapes에서 20개 백본, 11가지 사전학습 방식을 동일 조건으로 벤치마킹한 결과, '효율적' 토큰 믹서는 고해상도에서도 실질적 효율을 달성하지 못하며 순수 ViT가 처리량 파레토 프론트를 유지하고, 분할 품질은 아키텍처보다 사전학습 목표에 의해 결정된다는 사실을 밝혔다.

arXiv:2607.00620v1cs.CV

일반화 범주 발견을 위한 잠재 개념 및 구조 식별

Identifying Latent Concepts and Structures for Generalized Category Discovery

비전 트랜스포머 백본의 고랭크 패치 토큰이 일반화 범주 발견(GCD)의 병목임을 지적하고, 학습 가능한 시각적 프리미티브의 저랭크 조합으로 토큰을 재구성하는 플러그 앤 플레이 모듈 CPF-GCD를 제안한다. CPF는 백본과 GCD 헤드 사이에 삽입되어 패치 토큰을 공유 프리미티브 필드로 재작성함으로써, 다양한 GCD 베이스라인에서 알려진 클래스와 새로운 클래스 모두에 대해 일관된 성능 향상을 달성한다.

arXiv:2607.00580v1cs.CV

능동적 공간 가이던스: 비전 트랜스포머에서 주입된 위치 메커니즘 제거

Active Spatial Guidance: Eliminating Injected Positional Mechanisms in Vision Transformers

비전 트랜스포머(ViT)의 위치 주입(positional injection) 메커니즘을 추론 시 제거하기 위해, 학습 단계에서만 최종 레이어 패치 토큰에 2D 좌표 회귀 손실을 적용하는 보조 목적 함수 Active Spatial Guidance(Guidance)를 제안한다. ImageNet-100 분류, ADE20K 시맨틱 세그멘테이션, Hypersim 단안 깊이 추정에서 AbsPE, RoPE 등 강력한 위치 주입 기반 베이스라인을 능가하며, 위치 주입 없이도 공간적 귀납 바이어스를 학습으로 유도할 수 있음을 보인다.

arXiv:2607.00573v1cs.CV

BrainFIBRE: 뇌 미세구조를 위한 정보 분해 기반 파운데이션 모델

BrainFIBRE: A Foundation Model via Information Decomposition for Brain Microstructure

확산 MRI의 NODDI 맵(NDI, ODI, FWF)에서 고유·중복·시너지 정보를 자기지도 방식으로 분리하는 Self-supervised Partial Information Decomposition(SPID)과 전문가 혼합(MoE) 아키텍처를 결합한 뇌 미세구조 최초의 파운데이션 모델 BrainFIBRE를 제안한다. UK Biobank 55,592명 데이터로 사전학습한 이 모델은 나이·성별·뇌혈관 질환·인지 기능 예측 등 다양한 하류 과제에서 코카서스계 및 아시아계 코호트 모두에 걸쳐 최고 성능을 달성하며 신경생물학적으로 해석 가능한 표현을 제공한다.

arXiv:2607.00514v1cs.CV

Cross4D-JEPA: 4D 포인트 클라우드 표현 학습을 위한 밀집 교차 모달 대응 증류

Cross4D-JEPA: Dense Cross-modal Correspondence Distillation for 4D Point Cloud Representation Learning

DINOv2, V-JEPA 2 같은 동결된 2D 기반 모델(foundation model)의 패치별 특징을 4D 포인트 클라우드 인코더로 증류하는 Cross4D-JEPA를 제안하며, 전역 임베딩 대신 각 3D 포인트를 대응 패치 특징에 밀집 매핑하는 교차 모달 대응과 마스킹·네거티브 없는 포인트별 코사인 손실로 학습한다. MSR-Action3D, NTU-RGB+D 60 등 4개 벤치마크에서 단일 모달 및 전역 교차 모달 기준선을 일관되게 능가하며, 성능 향상의 핵심은 교사 모달리티가 아닌 대응의 세밀도(granularity)임을 분석을 통해 확인했다.

arXiv:2607.00371v1cs.CV

MEPA: 전문가 혼합을 활용한 시각적 자기회귀 모델링의 다중 스케일 표현 정렬

MEPA: Multi-Scale Representation Alignment for Visual Autoregressive Modeling with Mixture of Experts

VAR(Visual AutoRegressive modeling)의 다중 스케일 표현 학습에서 발생하는 최적화 충돌과 초기 스케일의 의미 오류 전파 문제를 해결하기 위해, 스케일 인식 토큰 라우팅 전문가 혼합(MoE) 아키텍처와 잔차 특징 집계 기반 자기지도 표현 정렬을 결합한 MEPA 프레임워크를 제안한다. ImageNet 256×256 벤치마크에서 기본 학습 에폭의 절반과 더 적은 파라미터로 밀집 기준선 대비 우수한 FID를 달성하며 최대 2배의 학습 속도 향상을 보인다.

arXiv:2607.00277v1cs.CV

AEGIS: 유방촬영술을 위한 멀티태스크 결합 임베딩 예측 아키텍처

AEGIS: A Multi-Task Joint-Embedding Predictive Architecture for Mammography

유방촬영술에서 유방암 탐지 및 밀도 평가를 위한 결합 임베딩 예측 아키텍처인 Aegis를 제안합니다. 14개 임상 기관의 71,103건 연구를 대상으로 자기지도 결합 임베딩 예측 아키텍처(JEPA) 사전학습을 통해 세 가지 Vision Transformer 변형(Small/Base/Large)을 학습한 후, 최대 2048×1536까지 점진적 해상도 스케일링을 적용한 지도 미세조정을 수행하였습니다. 785건으로 구성된 정제된 테스트 세트에서, 가장 큰 모델은 유방암 트리아지에 대해 수신자 조작 특성 곡선 아래 면적(AUC) 0.949를 달성하였으며, 최적 운영 지점에서 민감도 93%, 특이도 75%를 기록하였습니다. 우리 모델과 미국 식품의약국(FDA) 승인 기준선을 결합한 앙상블은 판별 능력을 AUC 0.952로 더욱 향상시켰습니다. 유방 밀도 분류에서는 이진(고밀도 대 비고밀도) 분류에서 AUC 0.953을 달성하였으며, 네 가지 유방영상보고데이터시스템(BI-RADS) 카테고리 전체에서 정확 정확도 62.6%, 인접 정확도 98.8%를 기록하여 보고된 인간 판독자 간 일치율에 필적하는 수준을 보였습니다. 공개 VinDr-Mammo 데이터셋에 대한 외부 검증은 상이한 참조 기준 하에서 교차 집단 전이 가능성에 대한 근거를 제시하며, 가장 큰 모델은 제로샷(zero-shot) 환경에서 트리아지 AUC 0.871을 달성하였습니다.

arXiv:2607.00144v1cs.CV

능동 학습에서의 위상 전이에 관한 메커니즘 기반 이론

A Mechanism-Driven Theory of Phase Transitions in Active Learning

능동 학습(Active Learning)의 성능이 레이블 예산에 따라 달라지는 현상을 PAC 방식의 리스크 분해를 통해 이론적으로 규명하고, 지배적인 일반화 메커니즘의 전환으로 학습 단계를 재해석하는 프레임워크를 제안한다. 분절 회귀(segmented regression)와 측정 가능한 프록시를 활용해 데이터 주도, 전환, 모델 주도의 세 단계를 자동 식별하며, 자연 이미지 및 의료 이미지 실험에서 전략의 귀납적 바이어스를 현재 활성 병목에 맞추는 것이 AL 효율을 결정함을 보인다.

arXiv:2602.16249v2cs.CV

AFFMAE: Scalable Vision Pre-Training for High-Resolution Microscopy Segmentation on Desktop Hardware

AFFMAE는 데스크탑 GPU에서 고해상도 현미경 이미지의 자기지도 사전학습을 가능하게 하기 위해, 밀집 그리드 가정 없이 적응형 오프-그리드 토큰 병합(off-grid token merging) 기반의 계층적 사전학습 프레임워크를 제안한다. ViT-MAE와 동등한 분할(segmentation) 성능을 유지하면서 사전학습 속도 2배 향상, 메모리 사용량 절반 감소, 1024px 파인튜닝 시 최대 5배의 처리량 향상을 달성하였다.

arXiv:2607.00052v1cs.IR

AGE: Adaptive-masking for Graph Embedding in Graph Retrieval-Augmented Generation

GraphRAG에서 그래프 기반과 텍스트 기반 잠재 특징 간의 불일치 문제를 해결하기 위해, 텍스트 임베딩 인코더 구조를 모방한 마스크 기반 자기지도학습(SSL) 방식인 AGE(Adaptive-masking for Graph Embedding)를 제안한다. AGE는 강화학습(RL) 기반의 학습 가능한 노드 샘플러를 통해 그래프의 핵심 노드(key node)를 선별적으로 마스킹하여 GraphQA 태스크에서 4개의 벤치마크 데이터셋 전반에 걸쳐 우수한 정확도를 달성하였다.

arXiv:2602.23605v2cs.AI

SleepLM: Natural-Language Intelligence for Human Sleep

We present SleepLM, a family of sleep-language foundation models that enable human sleep alignment, interpretation, and interaction with natural language. Despite the critical role of sleep, learning-based sleep analysis systems operate in closed label spaces (e.g., predefined stages or events) and fail to describe, query, or generalize to novel sleep phenomena. SleepLM bridges natural language and multimodal polysomnography, enabling language-grounded representations of sleep physiology. To support this alignment, we introduce a multilevel sleep caption generation pipeline that enables the curation of the first large-scale sleep-text dataset, comprising over 100K hours of data from more than 10,000 individuals. Furthermore, we present a unified pretraining objective that combines contrastive alignment, caption generation, and signal reconstruction to better capture physiological fidelity and cross-modal interactions. Extensive experiments on real-world sleep understanding tasks verify that SleepLM outperforms state-of-the-art in zero-shot and few-shot learning, cross-modal retrieval, and sleep captioning. Importantly, SleepLM also exhibits intriguing capabilities including language-guided event localization, targeted insight generation, and zero-shot generalization to unseen tasks. All code and data will be open-sourced.

arXiv:2604.21495v2cs.LG

Generalizing Numerical Reasoning in Table Data through Operation Sketches and Self-Supervised Learning

테이블 기반 수치 추론(numerical reasoning)에서 도메인 이동에 따른 성능 저하를 완화하기 위해, TaNOS는 헤더 익명화(header anonymization), 연산 스케치(operation sketch), 그리고 프로그램 우선 방식의 자기지도학습(SSL)을 결합한 지속적 사전학습 프레임워크를 제안한다. 8B 인스트럭션 튜닝 모델에 적용 시 FinQA에서 학습 데이터 10%만으로 80.13%의 실행 정확도를 달성해 전체 데이터로 학습한 SFT 기준선(73.97%)과 GPT-5, Gemini-2.5-Pro를 능가하며, 교차 도메인 실험에서 도메인 간 성능 격차를 2pp 이내로 유지했다.

arXiv:2606.31495v1cs.AI

Surprise as a Signal for Plasticity and Metacognition

We study a single idea across two settings: that a prediction-error signal, computed by a small predictor over the latent space of a frozen encoder, can serve both as a gate on plasticity and as a substrate for metacognition. In the first system, a non-parametric episodic memory writes a new concept only when this surprise is high, and a periodic offline replay phase consolidates recent traces into a slow linear readout. On a continual stream of 1000 ImageNet classes with a frozen DINOv2 or I-JEPA backbone, the consolidation phase recovers 17.7 points of retention on the oldest classes for DINOv2 and 51.3 points for I-JEPA (single-seed runs), and an ablation shows that replaying only a recent window is worse than no replay at all. In few-shot evaluation the same memory reaches 91.6% on 5-way 1-shot mini-ImageNet, above a task-specific baseline, while a harder 500-way regime exposes the true difficulty. In the second system, the same surprise signal, computed in a shared text-image space, modulates the behaviour of a vision-language model: it answers assertively when a concept is known, hedges when it is partially familiar, and refuses to identify the object and asks for an explanation when it is novel, learning the concept from a single user utterance. The external detector separates known from novel concepts at an AUROC of 0.966 (95% CI +/-0.024), far above the model's own verbalised confidence (0.618), while its token-level confidence sits below chance under greedy decoding; after a sleep phase that empties the fast store, the system recalls 99.2% of fifty taught facts from the consolidated store while a base model recovers none. We report both systems as proof-of-concept, with explicit limitations, and position the second against recent episodic-memory and personalised-VLM work.