PyTorchKR Papers

최신 논문

총 1,987편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2607.13763v2cs.LG

MxGPS: 전력망 파운데이션 모델을 위한 멀티플렉스 그래프 트랜스포머

MxGPS: Multiplex Graph Transformers for a Power Grid Foundation Model

전력망 문제를 위한 그래프 신경망(GNN)의 단일 과제 미세조정은 체계적인 실패 양상을 보인다. 분포 내(in-distribution) 오차가 가장 낮은 모델일수록 토폴로지 변화(topology shift) 하에서 가장 크게 성능이 저하된다. 이를 토폴로지 과적합(topology overfitting)이라 부른다. 과제 특화 그래디언트 신호가 기본 물리학(underlying physics)보다는 학습 토폴로지에 특화된 관계 구조를 인코딩하는 경향으로, 분포 내 성능이 우수함에도 불구하고 모델이 보지 못한 전력망에서 실패하게 만든다. 이 실패 양상을 드러내고 해결하기 위해, 공유 노드 인코더 위에서 K개의 과제 특화 GPS 분기를 실행하는 멀티플렉스 그래프 트랜스포머인 MxGPS(Multiplex GPS)를 제안한다. 이는 자기지도 사전학습 및 다중 과제 미세조정 프로토콜을 통해 정적 상태 추정(Static State Estimation, SSE)과 교류 전력 조류(AC Power Flow, PF)에 공동 학습되며, 교차 분기 어텐션 모듈은 ablation에서 평가되었다. SSE+PF 공동 목적 함수는 공유 인코더가 상보적인 그래디언트 신호를 동시에 만족하도록 강제하여, 토폴로지 특화 관계 구조에 대한 과적합을 방지한다. 3-fold 슬라이딩 윈도우 교차 검증(sliding-window cross-validation)으로 네 가지 보지 못한 토폴로지(14-, 24-, 162-, 300-bus)를 아우르는 실험에서, MxGPS는 네 가지 제로샷 Power Flow 토폴로지 모두에서 0% 경계 위반률(boundary violation rate, BVR)을 달성한다. 중요하게도, 분포 내 PF 오차가 실질적으로 더 낮은 모델들은 토폴로지 변화 하에서 190%에서 1400%까지 성능이 저하되는 반면, MxGPS는 39%에 불과하다. 이러한 역전 현상은 실패 메커니즘이 모델 용량 부족이 아니라 토폴로지 과적합임을 직접적으로 시사한다. 매개변수 160만 개(GridFM 참조 기준선 대비 12배 적음)만으로 MxGPS는 다중 과제 공동 학습이 전력망 파운데이션 모델에서 토폴로지 독립적(topology-agnostic) 일반화를 위한 원칙적이고 매개변수 효율적인 메커니즘임을 보여준다.

arXiv:2602.01477v3stat.ML

Density-Informed Pseudo-Counts for Calibrated Evidential Deep Learning

증거 기반 딥러닝(EDL) 학습이 온도 조절 의사우도(pseudo-likelihood)를 쓰는 계층 베이즈 모델의 상각화 변분 추론(amortized variational inference)에 해당함을 보이고, 표준 EDL이 OOD 입력에서 인식론적·우연적 불확실성을 혼동해 과신하는 한계를 지적한다. 이를 위해 조건부 레이블 분포와 공변량(covariate) 밀도를 분리 추정하는 DIP-EDL을 제안해 고밀도 영역의 증거는 유지하면서 OOD 예측은 균등 사전(prior)으로 수축시키며, 분포 이동(distributional shift) 하에서 해석성·견고성·불확실성 보정(calibration)을 개선한다.

arXiv:2105.07610v5stat.ML공식 코드 · Papers with Code

교차 클러스터 가중 포레스트

Cross-Cluster Weighted Forests

생물학적 응용을 위한 신뢰할 수 있는 머신러닝 알고리즘을 구축하려면 서로 다른 출처, 배치, 분포, 또는 연구로 인한 데이터 이질성에 적응해야 한다. 우리는 'Cross-Cluster Weighted Forest'(CCWF)를 제안한다. 이는 특징 분포의 이질성을 명시적으로 활용하는 앙상블 접근법으로, 데이터가 자연스럽게 클러스터링될 수 있는 경우 표준 Random Forest보다 더 정확하고 더 일반화 가능한 예측기를 생성한다. CCWF는 RF 아키텍처를 외부 비지도 층, 지도 하위 과제, 그리고 앙상블로 일반화한다. 구체적으로는 학습 데이터의 비지도 클러스터링, 각 클러스터에 Random Forest를 적합시키는 것, 그리고 클러스터 간 일반화 가능성을 보상하는 스택드 회귀 가중치를 통해 포레스트를 결합하는 것을 포함한다. 우리는 해석적으로 다룰 수 있는 포레스트 모델에 대한 이론적 분석을 제공하며, 클러스터 기반 앙상블이 전체 데이터에 단일 포레스트를 학습하는 것보다 점근적으로 더 정확함을 보인다. 이 이득은 바이어스 감소에 의해 주도된다. 시뮬레이션에서 CCWF는 데이터 생성 체제와 결과 모델 전반에 걸쳐 견고함을 보인다. 또한 데이터 분할 및 앙상블 가중 전략이 우리 방법의 이점에 미치는 영향을 탐구한다. 마지막으로, 우리는 접근법을 자연스럽게 클러스터로 나눌 수 있는 암 분자 프로파일링 및 유전자 발현 데이터셋에 적용한다. 시뮬레이션과 실제 데이터 예시 모두에서, 우리의 접근법이 고전적인 Random Forest를 30-40%의 여유로 능가함을 보여주며, 이는 우리의 이론적 결과와 일치한다. 전반적으로, CCWF가 여러 도메인 또는 하위 집단에 걸친 데이터에 대해 통계적으로 타당한 예측 알고리즘을 제공함을 보인다. 이러한 구조는 생물학적 응용에서 흔하다.

arXiv:2607.14628v1cs.CL

라우팅 상한은 도메인에 무관하다: 코드 보안 취약점 탐지에서의 구조적 사전 주입

Routing Ceilings Are Domain-Independent: Structural Prior Injection in Code Security Vulnerability Detection

대규모 언어 모델(LLM)은 잠재 능력과 일관된 활성화 사이에 잘 문서화된 격차를 보인다. 라우터 가설(router hypothesis)은 모델이 과제를 해결할 지식은 갖추고 있지만, 이를 활성화할 신뢰할 수 있는 내부 라우팅이 부족하다고 본다. 형식적 수학적 추론 분야의 선행 연구(SAIR, Cázares 2026)는 구조적 사전(prior)(치트시트)가 분포 내(in-distribution) 성능을 극적으로 높이지만, 분포 외(OOD)에서는 제로샷 기준선 이하로 붕괴한다고 보고하며 — 반복적 재보정(recalibration)이 붕괴를 교정하기보다 오히려 증폭한다고 한다. 이 현상이 도메인 간(cross-domain) 현상인지 검증하기 위해 SAIR 설계를 소스 코드 보안 취약점 탐지에 재현하고, 구문적·문맥적·의미적 복잡도에 걸친 세 가지 취약점 범주(CWE-798, CWE-284, 비CWE N+1 안티패턴)에서 세 LLM(GPT-OSS-120B, Llama-3.3-70B, Gemma-4-31B)을 평가한 뒤, 치트시트가 보강된 프롬프트를 VUDENC의 실제 CVE 데이터(CWE-89, CWE-22)로 이전(transfer)했다. 결과는 SAIR를 재현하고 확장한다: (F1) 구조적 사전은 모든 모델에서 의미적 취약점 재현율을 20.0%에서 100.0%로 끌어올린다; (F2) 제로샷 성능은 의미적 복잡도 그래디언트를 따라 저하된다; (F3) 합성 성능을 포화시키는 동일한 치트시트가 실제 CVE 데이터에서 분포 이동(distribution-shift) 붕괴를 증폭한다(CWE-89: 합성 F1 100% → VUDENC 48.9%, -51.1pp); (F5) 반복적 재보정은 실제 데이터에서 v1보다 성능이 더 낮은 v2 치트시트를 만들어 SAIR의 AN45c 대 AN38 발견을 재현한다. 이 결과는 SAIR에서 문서화된 교차-분포 트레이드오프 표면이 코드 보안으로 일반화된다는 증거를 제공하며, 라우터 가설이 도메인 간에 성립함을 시사한다. 붕괴의 구조적 특성은 프롬프트 보정보다 분포 인식(distribution-aware) 학습을 정당화한다고 주장한다. 코드 및 평가 스크립트: https://github.com/bytepro-ai/bitcoder-v2-research

arXiv:2607.14114v1cs.CL

CoEvoT: 그래프-LLM 추론을 위한 공진화 사고의 연쇄 프롬프팅

CoEvoT: Co-Evolving Chain-of-Thought Prompting for Graph-LLM Reasoning

분포 이동(distribution shift) 하에서의 그래프 학습은 지속적인 과제이며, 모델은 제한적이거나 심지어 감독이 전혀 없는 상황에서 새로운 그래프에 적응해야 한다. 최근 그래프-LLM 접근법은 그래프를 프롬프트로 선형화하고 대규모 언어 모델(LLM)을 예측기로 사용하여 레이블 효율적인 예측을 향해 나아가며, LLM의 다단계 추론 능력을 활용하기 위해 사고의 연쇄(Chain-of-Thought, CoT) 프롬프팅을 채택할 수 있다. 그러나 기존 CoT 기반 그래프-LLM 방법은 고정된 그래프 토큰을 조건으로 하여 중간 사고를 생성하므로, 구조적 단서의 단계별 정제가 제한된다. 본 논문에서는 그래프-LLM 추론을 위한 단순하면서도 효과적인 공진화 CoT 프롬프팅 프레임워크인 CoEvoT를 제안한다. CoEvoT는 텍스트-그래프 토큰 재작성과 그래프-텍스트 추론 안내를 폐루프로 결합한다. 각 중간 텍스트 사고는 경량 조건 네트워크를 통해 그래프 토큰 증거 상태를 갱신하는 데 사용되며, 갱신된 토큰은 다음 단계 지시에 다시 입력되어 후속 LLM 추론을 안내한다. 이를 통해 고정된 그래프 스냅샷에 대한 추론이 아니라, 단계별·상태 인식 증거 정제가 가능해진다. 8개 데이터셋에 대한 광범위한 실험에서 CoEvoT는 최신 베이스라인을 일관되게 능가함을 보여준다.

arXiv:2607.14943v1cs.RO

기계론적 해석가능성과 최적 제어를 통한 World Action Model 견고성 조향

Steering Robustness into World Action Models via Mechanistic Interpretability and Optimal Control

World Action Models(WAM)은 의미적·물리적 정보가 반영된 제어를 가능하게 하지만, 분포 이동(distribution shift) 하에서 취약하다. 본 연구에서는 기계론적 해석가능성(mechanistic interpretability)을 사용하여 견고성과 관련된 교란(perturbation)이 WAM 활성화 공간에서 어떻게 표현되는지 분석한다. 성공적인 롤아웃(rollout)과 실패한 롤아웃 간의 활성화를 비교한 결과, 일부 WAM 아키텍처는 견고성에 중요한 특징에 대해 저차원 선형 분리 가능성(linear separability)을 보이지만, 다른 아키텍처는 그렇지 않다. 이는 학습 없는(training-free) WAM 조향(steering)을 위해 대조적(contrastive) 활성화 방향을 사용할 동기를 제공한다. 또한 WAM 활성화 역학의 국소 선형성(local linearity)이 모델 기반 최적 제어(model-based optimal control)를 통한 효율적 피드백 조향을 가능하게 하며, 이는 최소 침습적(minimally-invasive) 저차(reduced-order) LQR 제어기인 World-Action Linear Quadratic Regulator(WA-LQR)를 산출한다. 기계론적 평가를 통해 Cosmos-Policy와 DiT4DiT 모델에서는 강한 조향 가능성(steerability)을, LingBot-VA에서는 약한 조향 가능성을 예측했으며, 이는 조향 개입 결과와 일치한다. Cosmos-Policy와 DiT4DiT에서 WA-LQR은 대조적 방향을 새로운 태스크로 일반화하고, 조향하지 않은(unsteered) 모델과 프롬프트 조향 기준선보다 카메라, 그리퍼(gripper), 시각 노이즈 교란에 대한 견고성을 향상시킨다.

arXiv:2607.14888v1cs.LG

무해해 보이는 데이터, 잠재적 이데올로기: 파인튜닝된 LLM에서의 이데올로기적 일반화

Innocuous-Seeming Data, Latent Ideology: Ideological Generalisation in Finetuned LLMs

언어 모델을 소규모의 큐레이션된 데이터셋으로 파인튜닝하는 것은 특정 정책이나 도메인에 맞게 모델을 조정하는 표준 관행이다. 우리는 사실적으로 방어 가능하고 조율 기준을 통과하는 좁은 데이터에 대한 파인튜닝이 일반 역량은 유지하면서도 관련 없는 도메인 전반에 걸쳐 광범위한 이데올로기적 변화를 일으킬 수 있음을 보인다. 우파 또는 좌파 성향의 경제학 Q&A로 GPT-4.1을 학습(training)시키면 형사 사법, 환경, 문화적 취향 같은 주제에서도 대응되는 이데올로기적 변화가 나타난다. 동일한 효과는 직장 HR 정책과 실용 금융 질의처럼 실제로 배포 가능한(plausibly-deployed) 데이터셋에서도 나타나며, 과학-사이비과학 축에서는 식품 안전 파인튜닝이 거짓 건강 신념을 표현하는 사용자에게 아첨하는 동의를 증가시킨다. 우리는 이 현상을 이데올로기적 일반화(ideological generalisation)라 부르고, 두 가지 속성을 측정하는 방법론을 제안한다: breadth(폭)—학습에 없는 주제 전반으로 변화가 얼마나 멀리 미치는지—, amplification(증폭)—동일 예시에 대한 퓨샷(few-shot) 프롬프팅 대비 파인튜닝이 변화를 얼마나 강화하는지. 우리는 퓨샷 프롬프팅이 일반화 방향을 가리키지만 파인튜닝은 모델(model)을 더 극단으로 밀어내며, 인종-IQ 연관성 옹호와 정치적 폭력 같은 분포 밖(out-of-distribution) 출력까지 이르게 함을 보인다. 이 효과는 Gemma-3에서도 재현되고, 판정자 없는 평가와 외부 벤치마크에서도 유지되며, 일반 데이터와 혼합해도 사라지지 않고, GSM8K 정확도는 기준선(baseline) 대비 $\pm 1$pp 이내로 유지된다.

arXiv:2607.14466v1cs.LG

교차 노이즈 주입이 클린·손상·OOD 성능을 향상시킨다

Interleaved Noise Injection Improves Clean, Corrupted, and OOD Performance

노이즈 주입은 확률적 최적화(stochastic optimization)에서 잘 알려진 기법이다. 우리는 일반적인 단조 감쇠(monotonic decay) 스케줄 대신 교차(on-off-on-off...) 스케줄을 사용할 때 놀라울 정도의 효과가 있음을 보고한다. 노이즈 주입에 대한 이론적 분석을 제시하며, 임펄스 노이즈(impulse noise)에 의한 손상은 야코비안 정규화를 근사하고, 가우시안 노이즈(Gaussian noise)는 곡률 페널티(curvature penalty)로 작용함을 확인한다. 이러한 정규화 거동은 노이즈 주입이 모델 견고성(robustness)을 높이는 이유를 설명하는 데 사용되어 왔다. 그러나 우리가 제안한 스케줄의 교차적 특성은 최적화 목적 함수에서조차 더 나은 결과를 낸다. 노이즈가 있는 데이터 단계를 섞으면 옵티마이저가 국소 최솟값(local minima)에서 벗어나 탐험을 늘릴 수 있으며, 클린 데이터의 중요한 특징을 치명적으로 망각(catastrophically forgetting)할 위험 없이 학습할 수 있다. 클린 데이터와 노이즈 데이터 사이를 전환할 때 손실의 급격한 변화에 대해 이 학습 방식을 안정화하기 위해, 클린 그래디언트 크기에 따라 노이즈 업데이트를 스케일링하는 그래디언트 노름(gradient-norm) 안정화 기법을 도입한다. 이 방법을 다른 일반적인 증강(augmentation) 방법들과 비교한 결과, ResNet 및 ViT 아키텍처에서 CIFAR-100-C, ImageNet-C, ImageNet-R에 대한 손상 내성(corruption tolerance)과 실세계 분포 이동(distribution shift)에 대한 견고성에서 상당한 개선을 확인했으며, 다른 증강 위에 우리 방법을 쌓았을 때 최고의 결과를 얻었다. 시각적 중요도(saliency) 및 어텐션 맵을 통해, 교차 노이즈 주입의 효과가 모델의 귀납적 바이어스(inductive bias)가 장려하는 실패 모드(failure mode)에 페널티를 부과하는 데서 기인함을 보인다. 임펄스 노이즈는 합성곱(ResNet) 아키텍처의 지역성 바이어스(locality bias)에 대항하고, 가우시안 노이즈는 어텐션 기반 모델이 대규모 가짜(spurious) 특징을 포착하려는 경향을 줄인다. 따라서 교차 노이즈 주입은 사실상 추가 계산 비용 없이 클린, 노이즈, 분포 외(out-of-distribution) 데이터에 대한 테스트 성능을 향상시키는 효과적인 도구이다.

arXiv:2607.14200v1cs.LG

스트리밍 비디오 게임에서 강건하고 효율적인 모방 학습을 위한 증강

Augmentations for Robust and Efficient Imitation Learning in Streamed Video Games

모방 학습은 인간 시연으로부터 시각적 관측을 행동에 매핑하는 정책을 학습함으로써, 복잡한 3D 환경에서 게임 플레이 에이전트를 확장할 수 있는 매력적인 방법이다. 그러나 이러한 시연은 수집 비용이 높고, 현대 게임 플레이는 종종 스트리밍을 통해 이루어지는데, 네트워크 지연과 압축이 시공간적으로 상관된 시각적 아티팩트를 유발하여 테스트 시점에 공분산 이동(covariance shift)을 일으킬 수 있다. 이러한 과제를 해결하기 위해, 저대역폭 네트워크 연결 하의 스트리밍 중 흔히 발생하는 네 가지 유형의 아티팩트—픽셀화된 블록 및 스크럽, 전역 블러, 고스팅—을 모방하는 스트리밍 증강을 제안한다. 우리는 학습된 잠재 공간에서 미래 상태 조건화와 역동역학 정책을 결합하는 예측적 역동역학 모델(PIDM) 위에 접근법을 구현하고, 현대 3D 비디오 게임의 세 가지 과제에서 증강의 영향을 평가한다. 안정적인 스트리밍 조건에서, 시공간 증강으로 학습된 에이전트는 동일한 데이터 예산 하에서 증강 없이 학습된 에이전트 대비 평가 성능이 최대 41% 더 높다. 네트워크 지연이 도입되면, 증강으로 학습된 에이전트는 성능이 7.45%만 저하되는 반면, 원본 데이터만으로 학습된 에이전트는 원래 성능의 49.82%에 그친다. 이러한 결과는 스트리밍 환경에 맞춘 시공간 증강이 강건하고 효율적인 게임 플레이 에이전트를 학습하기 위한 단순하면서도 강력한 도구임을 분명히 보여준다.

arXiv:2607.14157v1cs.LG

다중 도메인 검색을 위한 인증된 도메인 일관성: 컨포멀 위험 보증 기반 레이블 없는 도메인별 오염 제어

Certified Domain Consistency for Multi-Domain Retrieval: Label-Free Per-Domain Contamination Control with Conformal Risk Guarantees

여러 도메인이 혼합된 코퍼스에 대한 검색(retrieval)은 종종 관련은 있지만 잘못된 도메인의 증거를 반환하며, 이는 순위(ranking) 지표가 놓치고 컨포멀 위험 제어(conformal risk control) 경계는 최악의 도메인을 충분히 커버하지 못할 정도로 겨우 포착하는 경우가 많다. 본 연구는 C3R을 제안한다. C3R은 추론된 도메인 사후분포(domain posterior)와 쿼리 시점 레이블 없이, 가능한 경우 도메인별 오염(contamination) 예산을 인증하고, 그렇지 않으면 침묵적으로 위반하는 대신 기권(abstain)하는 드롭인(drop-in) 제어 층이다. 가장 어려운 도메인에서는 tight bound가 아닌 감소(reduction)를 보장한다. 핵심은 위험 제어 예측 집합(risk-controlling prediction sets) 위에 구축된 2-분할(two-split) 방식으로, 유한 표본 전이(transfer) 경계가 추론된 도메인에서 실제 도메인으로 완전히 추정 가능한 여유(slack)와 함께 전이되며, 이질적(heterogeneous) 예산을 지원하고 배포를 위해 역산(invert)한다. 모집단(population) 유효성은 이 경계와 통제된 시뮬레이션에 기반한다. 1,000회 재표본 캘리브레이션(resampled calibrations)에서 인증서(certificate)는 한 번도 위반하지 않는다(안정성 결과) 반면, 주변(marginal) 제어는 매 추출(draw)마다 가장 오염된 도메인에서 위반하며, 소프트 강등(soft demotion)은 동일한 인증된 오염에서 가장 강한 보정된 cascade보다 더 많은 재현율을 유지한다. 이 방법은 공개 연방 규정에서 가져온 독립 테스트베드(testbed)를 포함한 공개 테스트베드에서 재현된다. 대규모 언어 모델(LLM)이 판단한 다운스트림(downstream) 프로브(probe)는 잘못된 권한(authority) 그라운딩(grounding)이 오염과 함께 증가하고 제어 하에서 감소함을 나타낸다. 이 층은 고정 스택(frozen-stack) 방식이며 재순위화(reranker) 모델에 무관하다.

arXiv:2607.14975v1cs.AI

CFM-Bench: 채널 기반 모델을 위한 통합 다중 도메인·다중 태스크 벤치마크

CFM-Bench: A Unified Multi-Domain, Multi-Task Benchmark for Channel Foundation Models

채널 기반 모델(CFM)은 빠르게 발전하고 있으며, 최근 연구들은 다운스트림 무선 태스크 전반에 걸친 사전학습(pre-training)의 이점을 보고하고 있다. 그러나 CFM은 서로 다른 데이터, 무선 설정, 파티션, 적응 절차, 태스크 정의, 지표를 사용하는 모델별 파이프라인에서 평가되는 경우가 많다. 따라서 보고된 비교는 하나의 파이프라인 내에서 사전학습이 처음부터의 지도 학습(training)보다 나음을 보여주는 경향이 있지만, CFM 간 순위를 매기거나 작업 특화 모델과 공정하게 비교하지는 못한다. 우리는 이 공백을 해소하기 위해 설계된 통합 다중 도메인·다중 태스크 벤치마크인 CFM-Bench를 공개한다. 이는 3GPP 통계 시뮬레이션, 두 개의 독립적인 레이 트레이싱(ray-tracing) 파이프라인, 산업 및 항공 측정, 동기화된 차량 멀티모달 시뮬레이션에 걸친 여섯 가지 채널 구성을 큐레이션한다. 공식 파티션은 완전한 궤적, 측정 세션, 차량 링크, 시뮬레이션 실현(realization), 또는 버퍼링된 공간 영역을 분리한다. CFM-Bench는 외부 사전학습 코퍼스나 전략을 규정하지 않으며, 어떤 벤치마크 분할도 기반 모델 사전학습에 사용할 수 없고, 공식 학습 분할은 오직 다운스트림 미세조정(fine-tuning) 전용으로 예약된다. 벤치마크는 또한 모델 개발 중 사용된 모든 데이터의 공개를 요구하며, 공식 테스트 단위의 학습 단계 사용을 금지한다. 여섯 개의 태스크 그룹은 세 가지 CFM 응용 차원—물리층(PHY) 채널 지능, 무선 접속망(RAN) 의사결정 지능, 통합 감지 및 통신(ISAC)—을 따라 구성된다. 이들은 CSI 피드백, 주파수 및 시간적 채널 외삽(extrapolation), 전파 상태 분류(classification), 현재 및 미래 빔 예측, 단일 프레임 및 시간적 위치 추정(localization)을 다룬다. CFM-Bench는 모델, 도메인, 태스크에 걸친 채널 표현의 전이 가능성(transferability)을 비교하기 위한 공통 기반을 제공한다.

arXiv:2607.15231v1cs.CV

CRISP: 도메인 이동 하에서 견고한 의료 이미지 분할을 위한 반복적 압춠 과정 기반 제약적 정제

CRISP: Constrained Refinement via Iterative Squeezing Process for Robust Medical Image Segmentation under Domain Shift

의료 영상에서의 분포 이동(distribution shift)은 의료 AI의 임상 적용을 가로막는 핵심 병목으로 남아 있다. 이를 해결하지 못하면 보지 못한 환경에서 심각한 성능 저하가 발생하고 건강 불평등이 악화될 수 있다. 기존 도메인 적응(domain adaptation) 방법은 시뮬레이션된 이동이나 의사 지도(pseudo-supervision)를 통해 미리 정의된 가능성을 모두 소진하는 방식에 본질적으로 한계가 있다. 이러한 전략은 분포 이동이 사실상 무한한 개방적이고 예측 불가능한 실제 세계에서는 어려움을 겪는다. 이 과제를 해결하기 위해, 우리는 분포 이동 하에서 "양성 영역의 순위 안정성(Rank Stability of Positive Regions)"을 작업 가정으로 채택하고, 이를 활용해 소스 전용(source-only) 분할을 위한 견고한 공간적 힌트를 도출한다. 이 가정의 안내 하에, 우리는 CRISP를 제안한다. 이는 배포 시점 적응(deployment-time adaptation)과 달리 테스트 시점 매개변수 업데이트와 타깃 도메인 데이터가 필요 없는—동결된 가중치로 분할하는 타깃 없는(target-free), 플러그인형 정제 프레임워크인 모델 불가지(model-agnostic) 프레임워크이다. CRISP는 순위화(ranking)를 사용해 마스크를 직접 출력하는 대신, 분포 이동 하에서 확률 순위의 안정성을 활용해 견고한 공간적 사전분포를 도출한다. 잠재 특징(latent feature) 교란을 통해, 교란에 불변적인 고등급 영역은 고정밀도(HP) 코어를 정의하고, 적어도 하나의 교란 하에서 전경(foreground)일 가능성이 남아 있는 복셀(voxel)은 고재현율(HR) 지지(support)를 정의한다; 이 이중 사전분포는 교란 하에서 재귀적으로 정제된다. 그런 다음 우리는 HP와 HR을 최종 이미지 분할(image segmentation) 쪽으로 점진적으로 수축(squeeze)하는 반복적 학습(training) 프레임워크를 설계한다. 다중 센터 심장 MRI 및 CT 기반 폐 혈관 분할에 대한 광범위한 평가(evaluation)는 CRISP의 우수한 견고성을 보여 주며, 다중 센터, 인구통계학적, 및 모달리티 이동(modality shift)에 걸쳐 각각 최대 0.14(7.0% 개선), 1.90(13.1% 개선), 8.39(38.9% 개선)픽셀의 현저한 HD95 감소로 최신(state-of-the-art) 방법을 크게 능가한다.

arXiv:2607.14728v1cs.CV

VQ-Touch: 센서 및 시나리오를 아우르는 데이터 효율적 촉각 생성 프레임워크

VQ-Touch: A Data-Efficient Tactile Generation Framework Across Sensors and Scenarios

촉각 이미지 생성은 고품질 촉각 데이터를 합성함으로써 비용이 많이 들고 마모에 취약한 센서에 대한 의존성을 크게 줄여, 로봇 지각 및 인간-기계 상호작용 시스템에서 촉각 정보 획득을 위한 효율적인 해결책을 제공한다. 그러나 기존 방법들은 특정 센서로부터의 대규모·다양한 데이터셋에 의존하며 효율적인 데이터 활용과 견고한 일반화 능력이 부족하여, 시각 정보가 제한된 환경에서 어려움을 겪는다. 이를 해결하기 위해, 교차 센서 및 다중 시나리오 응용을 모두 지원하는 촉각 생성 프레임워크인 VQ-Touch를 제안한다. 구체적으로, 데이터로부터 복잡한 변형 및 질감 특징을 효율적으로 추출하기 위해 효과적인 촉각 표현 학습기인 DM-VQGAN을 제안한다. 또한 통합 조건화 인터페이스를 갖춘 이산 확산 디코더를 도입하여 이미지 및 레이블과 같은 멀티모달 생성 작업을 지원하고, 퓨샷(few-shot) 혼합 학습을 통해 모델의 일반화 능력을 향상시켜 현재 주류 센서 및 그 변형과의 호환성을 달성한다. 실험 결과, VQ-Touch는 여러 작업에서 최신(state-of-the-art) 방법들을 능가한다.

arXiv:2607.14720v1cs.CV

전립선 MRI 등급 판정을 위한 임상 공변량의 인과-적대적 탐색

Causal-Adversarial Probing of Clinical Covariates for Prostate MRI Grading

전립선 MRI 기반 암 등급 판정을 위한 심층 학습 모델은 유용한 질병 관련 신호를 반영하거나 일반화되지 않는 지름길(shortcut) 정보를 반영하는 임상 공변량을 인코딩할 수 있지만, 이들의 역할은 보통 가정으로만 취급된다. 우리는 MRI 기반 International Society of Urological Pathology (ISUP) Grade Group 예측에서 공변량 의존성을 탐색하기 위한 인과 추론 프레임워크를 제안한다. 등급의 직접적 원인으로 mpMRI를 다루는 대신, MRI 외관과 ISUP 등급을 잠재 종양 병리학의 관측값으로 모델링하고, 후보 임상 변수가 학습된 표현에서 방해(nuisance) 상관 변수, 질병 관련 대리 지표(proxy), 또는 무관한 공변량으로 작용하는지 검증한다. 이를 개별 임상 공변량의 디코딩 가능성을 한 번에 하나씩 억제하면서 MRI 기반 등급 예측은 유지하는 적대적 프레임워크를 사용해 구현한다. 이 접근법은 2,903건의 전립선 MRI 검사에서 개발 및 평가되었으며, 576명의 환자에 대해 외부 검증을 수행했다. 우리는 심층 학습 일반화 맥락에서 흥미롭고 이전에는 충분히 탐구되지 않았던 영상-임상 변수 상호작용을 보고한다. 예를 들어, 이진 ISUP Grade Group $\geq2$ 분류에서 age, BMI, alcohol use를 억제하면 AUC가 각각 1.23%, 0.84%, 1.42% 향상되었으며(모두 p < 0.05), 이는 일반화되지 않는 공변량 정보가 감소했음을 시사한다. 반면 PSA와 prostate volume을 억제하면 AUC가 1.91% 및 7.61% 하락했으며(모두 p < 0.001), 이는 해당 변수들이 과제 관련 신호를 담고 있었음을 나타낸다. 이러한 결과는 적대적 공변량 억제가 전립선 MRI 등급 모델에서 잠재적으로 유해한 의존성과 정보성 신호를 구분하는 실용적인 표현 수준 분석을 제공할 수 있음을 보여준다.

arXiv:2607.12091v3cs.CV

정서 행동 분석을 위한 어텐션의 인과적 감독

Causal Supervision of Attention for Affective Behaviour Analysis

제11회 Affective Behaviour Analysis in-the-wild Competition에는 Multi-Task Learning Challenge가 포함되며, 참가자들은 Valence-Arousal 추정, 표정 인식, Action Unit Detection을 위한 통합 프레임워크를 개발한다. 과제는 신원, 조명, 자세, 인구통계적 변이와 같은 허위 요인(spurious factors)에 견고하면서도 피험자 간 일반화되는 감정 관련 표현을 학습하는 데 있다. 사전학습된 백본에서 추출한 특징을 예측을 위한 간결한 표현으로 집계하기 위해, 어텐션 메커니즘이 가장 정보가 풍부한 얼굴 영역에 선택적으로 가중치를 부여한다. 그러나 이러한 어텐션 가중치는 진정한 정서 단서보다 데이터셋 특이적 상관관계를 여전히 포착할 수 있다. 이 한계를 해결하기 위해, 우리는 인과적 감독과 어텐션 구성요소의 교차-공분산 정규화를 결합한 어텐션 풀링 프레임워크를 제안하여, 피험자 불변 어텐션과 비중복 표현을 유도함으로써 일반화를 향상시킨다. 우리 방법은 공식 검증 세트에서 VA 추정에 대해 $CCC_{VA}=0.5123$을, 표정 인식과 Action Unit Detection에 대해 각각 $F_{EX}=0.3116$ 및 $F_{AU}=0.3974$을 달성하여, 개별 과제 지표의 합인 전체 $P$ 점수 $1.2214$를 기록한다.

arXiv:2403.01977v5cs.RO공식 코드 · Papers with Code

불확실성을 꿰뚫어 보기: 강건한 시각 내비게이션을 위한 자유 에너지 기반 실시간 적응

Seeing Through Uncertainty: Free-Energy-Inspired Real-Time Adaptation for Robust Visual Navigation

자연 세계에서의 내비게이션은 적응적 추론의 한 결과물이며, 생물은 노이즈가 있고 불완전한 감각 입력 스트림에도 불구하고 목표 지향적 행동을 유지한다. 이 능력의 핵심은 자유 에너지 원리(FEP)로, 지각은 뇌가 변분 자유 에너지(VFE)를 최소화하여 세상에 대한 정확한 내부 모델을 유지하는 생성 과정이라고 본다. 딥 신경망(DNN)은 생물학적 뇌의 강력한 유사 모델 역할을 해왔지만, 갑작스러운 감각 변화를 다루는 데 필요한 실시간 가소성은 일반적으로 부족하다. 본 연구는 강건한 시각 내비게이션에서 실시간 지각 적응을 위한 생물학적 영감 기반 프레임워크인 FEP-Nav를 제안한다. VFE를 예측 오차와 베이지안 서프라이즈로 분해한 구조에 영감을 받아, FEP-Nav는 손상되지 않은 감각 입력에 대한 내부 기댓값을 제공하는 하향식 디코더(Top-down Decoder)와, 편향된 특징 분포를 사전 통계에 맞게 조정하는 적응형 정규화(Adaptive Normalisation)를 결합한다. 재구성과 정규화를 그래디언트 기반 업데이트 없이 추론 중 해당 VFE 관련 항을 줄이는 근사 메커니즘으로 해석한다. 시뮬레이션 및 실제 시각 손상 환경에서의 실험은 FEP-Nav가 시각 손상으로 인한 성능 저하를 회복하며, 비적응 기준선과 강한 적응 방법보다 우수함을 보여준다. 이러한 결과는 변분 원리가 열악한 감각 조건에서 강건한 자율 행동을 위한 유용한 설계 관점을 제공할 수 있음을 시사한다.

arXiv:2607.13433v1cs.CL

루브릭이 바뀔 때: 비판적 사고 에세이 채점을 위한 교차-루브릭 일반화

When Rubrics Change: Cross-Rubric Generalization for Critical Thinking Essay Scoring

자동 에세이 채점(AES) 연구는 주로 교차-프롬프트 일반화에 집중해 왔으며, 이는 채점 기준이 일반적으로 일정하게 유지되는 가운데 보이지 않는 프롬프트의 에세이를 채점하는 문제이다. 그러나 실제로는 교육자들이 에세이의 다양한 측면을 평가하기 위해 채점 과제에서 루브릭을 수정하거나 새로 도입할 수 있다. 본 연구는 교차-루브릭 일반화를 다룬다. 즉, 하나의 루브릭 집합 하에서 라벨이 붙은 에세이로 학습하고, 에세이의 서로 다른 측면을 목표로 하는 이전에 보지 못한 루브릭에서 평가하는 것이다. 우리는 두 가지 구성 요소를 갖춘 대규모 언어 모델(LLM) 미세조정 프레임워크를 사용한다: traits라고 불리는 루브릭에 무관한 중간 표현, 그리고 학습 중 관찰된 루브릭 하의 대상 에세이 감독(supervision)이다. 학생의 비판적 사고 능력에 대한 여러 루브릭 정의 라벨로 보강된 AES 데이터셋에서, traits는 학습 중 대상 루브릭과 대상 에세이가 모두 보이지 않는 가장 어려운 설정에서 traits가 없는 기준선 대비 macro F1을 5.0% 향상시킴을 확인했다. 또한 대상 에세이 감독을 늘리면 성능이 향상되며, 우리의 최고 성능 미세조정 오픈소스 Llama 기반 모델이 GPT-5-mini 프롬프팅을 macro F1 기준 2.1%p 앞서고 GPT-5에는 1.9%p 뒤처진다. 이러한 결과는 trait 기반 중간 구조와 통제된 감독이 보이지 않는 루브릭에 대한 일반화를 개선함을 보여준다.

arXiv:2607.14072v1cs.LG

MetaPerch: Learning from metadata for bioacoustics foundation models

부제와 초록을 번역 규칙에 맞춰 정리했습니다. ```json {"title_ko": "MetaPerch: 생물음향 파운데이션 모델을 위한 메타데이터 학습", "abstract_ko": "생물음향 파운데이션 모델은 지리적·생태적으로 다양한 데이터를 위해 Xeno-Canto와 같은 대규모 시민 과학 플랫폼에 의존한다. 최근 연구는 이 대규모 데이터로 학습할 때 감독(supervision)만으로도 최첨단(SotA) 종 탐지 모델을 만들 수 있음을 보여주었다. 그러나 이러한 커뮤니티 주도 데이터 허브 내에서 쉽게 이용 가능한 녹음 메타데이터 형태의 미활용 잠재력이 남아 있다. 본 연구에서는 위치와 시간과 같은 메타데이터를 보조 감독 신호로 활용하는 방안을 탐구하여, 모델이 학습된 표현에서 종-메타데이터 상관관계를 활용할 수 있도록 한다. 보조 메타데이터 손실은 발성(vocalization)만으로는 얻을 수 없는 추가 정보를 제공하여, 종 분포 및 음향 도메인 이동에 더 잘 일반화되는 더 풍부하고 견고한 표현을 유도할 수 있다. 이는 실제 수동 음향 모니터링(PAM) 환경에 배포할 때 중요한 과제이다. 우리는 MetaPerch라는 새로운 파운데이션 모델을 제안하며, 이 모델은 여러 도전적인 도메인에서 강력한 종 동정 성능을 달성한다. 또한 17개 생물음향 데이터셋에 대해 9가지 다양한 메타데이터 소스의 효과에 관한 광범위한 실증 연구를 제시한다."} ```

arXiv:2607.13110v1cs.LG

오디오-비주얼 내비게이션을 위한 하이브리드 Mamba

A Hybrid Mamba for Audio-Visual Navigation

2020년에 합성곱 신경망(CNN)과 순환(recurrent) 아키텍처를 중심으로 한 패러다임이 정립된 이래, 오디오-비주얼 내비게이션의 기본 백본 네트워크는 5년 이상 본질적인 변화가 없어 동적 다중모달 시퀀스의 효율적인 표현을 지원하기에 부적합하다. 본 논문은 Samba(A Hybrid Mamba for Audio-Visual Navigation)를 제안한다. 적응형 선택 기능을 갖춘 Mamba State Encoder(M-SE)를 사용하여 시간적 집계를 위해 기존 GRU를 대체하고, 스펙트로그램에서 전역 시간-주파수 의존성을 포착하는 데 있어 합성곱 연산자의 한계를 보완하기 위해 Audio Mamba Encoder(AME)를 구성한다. 실험 결과, Samba는 들어보지 못한 음원과 보지 못한 장면에 직면했을 때 뛰어난 일반화 성능을 보인다. Matterport3D 데이터셋에서 기존 최첨단 모델 대비 내비게이션 성공률(SR)을 11.3% 향상시키며, 보다 세밀한 장면 구조를 특징으로 하는 Replica 데이터셋에서는 성능 향상이 더욱 두드러진다. 이러한 현대화된 아키텍처 재구성은 더 낮은 계산 비용으로 더 강력한 체화된 표현 능력을 제공하며, 오디오-비주얼 내비게이션 분야의 패러다임 진화를 위한 매우 견고한 기술적 경로를 제시한다.

arXiv:2605.07914v2cs.LG

평탄성과 그래디언트 정렬은 모두 필요: 다중 분포 학습을 위한 스펙트럼 인식 그래디언트 정렬 탐험

Flatness and Gradient Alignment Are Both Necessary: Spectral-Aware Gradient-Aligned Exploration for Multi-Distribution Learning

샤프니스 인식(sharpness-aware) 및 그래디언트 정렬 방법은 일반화를 향상시키는 것으로 나타났지만, 각 방법군은 손실 지형의 단일 기하학적 속성만을 대상으로 하면서 다른 하나는 무시합니다. 본 논문에서는 이러한 누락이 구조적으로 불가피하며, 다중 분포 학습(multi-distribution learning) 설정에서 평탄성과 그래디언트 정렬을 모두 고려해야 함을 보입니다. 구체적으로, 초과 위험(excess risk) 분해를 유도하여 두 개의 가법적 선행 차수 항을 도출합니다: (i) $\bar{H}^{-1}Σ_g$의 대각합(trace)에 의해 제어되는 정렬 항, (ii) $\bar{H}$에 의해 제어되는 곡률(curvature) 항. 여기서 $\bar{H}$는 평균 헤시안(average Hessian)이고 $Σ_g$는 분포 간 그래디언트의 공분산(covariance)입니다. 주목할 점은, $\bar{H}$가 한 항에서는 역행렬 형태로, 다른 항에서는 비역행렬 형태로 나타난다는 것입니다. 또한 반례(counterexample)를 통해 두 양이 일반적으로 서로를 제한(bound)하지 않음을 보이므로, 하나의 항만을 대상으로 하는 알고리즘은 낮은 초과 위험을 보장할 수 없습니다. 이 분해에 기반하여, 두 항을 모두 대상으로 하는 SAGE(Spectral-Aware Gradient-Aligned Exploration, 스펙트럼 인식 그래디언트 정렬 탐험)를 제안합니다. 곡률 구성요소는 SAM의 그래디언트 스케일 교란(perturbation)을 Newton-Schulz 반복(iteration)으로 계산한 각 층(layer)의 그래디언트 행렬의 극인수(polar factor)로 대체하여, 상승(ascent) 단계가 모든 방향을 유사한 크기로 탐색하도록 합니다. 반면, 정렬 구성요소는 하강(descent) 단계에서 등방성(isotropic) 노이즈를 주입하며, 그 크기는 분포 간 그래디언트 불일치(disagreement)에 비례하여 스케일링됩니다. 5개의 도메인 일반화(domain generalization) 및 2개의 다중 과제 학습(multi-task learning, MTL) 벤치마크에 대한 실험에서, 제안 방법은 DomainBed에서 새로운 최첨단(state-of-the-art) 성능을 확립하고 기본 MTL 솔버에 범용적인 개선으로 작용하며, 최첨단 방법과 경쟁하거나 심지어 이를 능가합니다.