해석적 지속 학습(Analytic Continual Learning, ACL)은 그래디언트 기반 접근법에 대한 계산 효율적인 대안을 제공한다. 최근 ACL 방법은 재귀 최소자승(Recursive Least Squares, RLS)에 기반하며, 다른 대안들과 비교해 최첨단(state-of-the-art) 결과를 달성했다. 그러나 롱테일(long-tailed) 분포가 특징인 클래스 증분 학습(Class-Incremental Learning, CIL) 시나리오에서는 크게 부진한다. 자기상관(Gram) 행렬의 불량 조건화(ill-conditioning)는 RLS의 알려진 한계이지만, 우리는 클래스 불균형이 이 문제를 뚜렷한 스펙트럼 병리(spectral pathology)로 악화시킴을 보인다: "꼬리(tail)" 클래스는 심각한 스펙트럼 붕괴(spectral collapse)를 겪어, 그 부분공간(subspace)이 수치적으로 잡음과 구별할 수 없게 된다. 표준 릿지 회귀(Ridge Regression, $L_2$)는 등방성 정규화(isotropic regularization)를 적용하기 때문에 이를 효과적으로 해결하지 못한다 — 이는 머리(head) 클래스를 과도하게 축소하지 않고 꼬리를 안정화하기에 불충분한 균일한 페널티이다. 이를 해결하기 위해, 우리는 롱테일 학습을 스펙트럼 정규화 문제로 다루는 이론적으로 정당화된 프레임워크인 Geometry-Spectral Rectification(GSR)을 제안한다. 모든 고유값을 균일하게 페널티하는 표준 등방성 정규화(릿지)와 달리, GSR은 이방성(anisotropic) 스펙트럼 필터로 작동하여 꼬리 클래스의 붕괴된 고유값을 선택적으로 팽창(inflate)시킨다. 우리는 Gram 행렬의 붕괴된 꼬리 고유방향(eigen-direction)을 선택적으로 팽창시키는 구조화된, 데이터 의존적 스펙트럼 섭동 행렬 $Δ$를 구성한다. 이론적 분석은 GSR이 Gram 행렬의 안정 순위(stable rank)를 개선함을 보장하여 수치적 안정성을 확보함을 증명한다. 광범위한 실험은 GSR이 해석적 CIL에서 새로운 최첨단을 수립하며, 롱테일 설정에서 계산 효율성과 견고한 일반화(generalization) 사이의 우수한 트레이드오프를 제공함을 보여준다.
본 논문에서는 희귀 질환의 샘플이 매우 적은 롱테일 분포(long-tailed distributions)로 인해 표준 기법을 의료 영상 분류에 적용할 때 겪는 어려움을 검토한다. 이는 흔한 질환 진단에는 치우치고 희귀 질환 진단에서는 멀어지는 바이어스를 초래한다. 이어서 증강(augmentation)과 같은 기법을 활용한 심층 학습 모델을 논의하고 구현하여, 특히 희귀 질환에서 발생하는 오류를 최소화한다. AP, F1 score, AUROC, 손실(모두 검증 세트에서)을 기준으로 다양한 모델을 평가한다. 마지막으로 최고 성능 모델의 유망한 결과와 의료 분야에서의 잠재적 응용 가능성을 제시한다.
꼬리 분포 학습은 일반화 저하의 두 가지 원인을 결합한다. head 클래스가 학습 노출을 지배하는 반면, 과소 대표 클래스는 종종 손실 landscape의 더 날카로운 영역으로 수렴한다. 기존 재샘플링(re-sampling)은 기하학을 고려하지 않고 전자만 다루는 반면, 기존 꼬리 분포 날카로움 인식 최소화(SAM) 방법들은 편향된 미니배치가 이미 추출된 후에만 손실이나 섭동을 수정한다. 우리는 최적화 기하학을 위한 능동적 제어 변수로 샘플링 분포를 취급하는 날카로움 유도 평형 샘플링(SGS)을 제안한다. SGS는 표준 SAM 업데이트로부터 얻은 누적 클래스 카운트와 EMA 날카로움 추정치만을 사용하여, 클래스별 섭동이나 추가 역전파(backward pass) 없이, 덜 자주 샘플링된 클래스의 샘플링 확률을 높이고 SAM 유발 손실 변화가 큰 클래스를 억제함으로써 후속 미니배치를 동적으로 조정한다. 우리는 연속 시간 확률 미분 방정식과 샘플링 의존적 PAC-Bayes 분석을 통해 이 샘플링 과정을 특성화하고, 빈도-날카로움 피드백이 학습을 더 균형 잡힌 평탄성(flatness) 프로파일로 이끌 수 있는 방식을 설명한다. 불균형 비율 100인 CIFAR-100 LT에서 SGS-SAM은 tail 정확도에서 Focal-SAM 대비 10.85%p, 전체적으로 3.56%p 향상시킨다. ImageNet-LT에서는 tail 클래스에서 ImbSAM 대비 6.59%p, 전체적으로 1.20%p 향상시킨다. 학습 시간은 vanilla SAM의 1.02배에 불과하다. 이러한 성능 향상 외에도, SGS는 손실 landscape 제어를 위한 샘플링 측면의 경로를 확립하며, 향후 꼬리 분포 방법들이 데이터 노출과 최적화 기하학 중 어느 하나를 고정된 것으로 취급하기보다 공동으로 조절할 수 있음을 시사한다.
장꼬리 라벨 분포는 심전도(ECG) 부정맥 진단에서 심층 학습의 신뢰성을 저하시키며, 특히 임상적으로 중요하지만 희귀한 이상 소견에서 두드러진다. 기존의 재균형화 및 로짓 조정 방법은 주로 클래스 빈도를 다루면서 ECG 클래스 간 방향 의존적 형태학적 가변성은 간과한다. 본 연구는 장꼬리 다중 라벨 ECG 진단을 위한 각도 Gaussian 지도 대조 학습(Angular Gaussian Supervised Contrastive Learning, AG-SCL)을 제안한다. AG-SCL은 세 가지 구성 요소를 통합 프레임워크로 결합한다: 단위 정규화 임베딩(embedding) 상에서 완전 공분산 클래스 불확실성을 모델링하는 각도 Gaussian 대조 분기, 고정된 빈도 기반 마진 대신 유계 라벨-상태별 사전(prior) 보정을 학습하는 적응형 로짓 조정(Adaptive Logit Adjustment), 그리고 7-25 Hz QRS 우세 대역을 보호하면서 형태 보존 뷰를 생성하는 꼬리 인식(tail-aware) 증강. 해당 방법은 공개 PTB-XL 벤치마크와 141명의 피험자로부터 수집한 1317시간 기록으로 구성된 야간 ECG 데이터셋에서 평가되었다. AG-SCL은 두 데이터셋 모두에서 최고의 매크로 수준 성능을 달성했다. PTB-XL에서 균형 정확도 0.838, 민감도 0.709, 특이도 0.968, 평균 평균 정밀도(mAP) 0.495, FPR 5%에서의 TPR 0.778을 얻었다. Noc-ECG에서는 해당 값이 각각 0.918, 0.889, 0.947, 0.488, 0.900이었다. 가장 큰 향상은 희귀하거나 형태학적으로 불안정한 리듬 클래스에서 나타났으며, ablation 연구는 완전 공분산 모델링, 적응형 로짓 조정, 꼬리 인식 증강의 기여를 확인했다. AG-SCL은 사전 보정과 이방성(anisotropic) 표현 학습을 결합함으로써 장꼬리 ECG 진단을 개선하며, 임상적으로 관련 있는 특이도를 유지하면서 희귀 부정맥에 대한 민감도를 향상시킨다. 코드는 https://github.com/Open-EXG/AG-SCL-for-Long-Tailed-ECG 에서 이용 가능하다.
종단 전자건강기록(EHR)의 생성 모델링은 프라이버시 보호 연구에 점점 더 중요해지고 있지만, 표준 자기회귀(autoregressive) 모델은 꼬리 사건(즉 질병, 증상)의 공발생 구조를 과소 표현하는 경향이 있어, 희귀 하위집단에 대한 생성 데이터의 충실도와 신뢰성을 떨어뜨린다. 이를 위해 우리는 데이터 분포 인식 학습 전략을 통해 생성 모델이 EHR 데이터에 적응적으로 적합하고 생성할 수 있게 하는 AdaPCLA 프레임워크를 제안한다. 이는 시뮬레이티드 어닐링(simulated annealing) 학습을 통해 데이터 지식 매개변수를 내재화함으로써 달성된다. 또한 제로샷(zero-shot) 분포 제어를 통해 생성 시 다양한 임상 집단에 대한 무학습 적응을 지원한다. 더 나아가, 우리의 이론적 분석은 라벨별 경험적 NTK(Neural Tangent Kernel)를 통해 희귀 코드 로짓 업데이트를 특성화하고, 어닐링 속도와 NTK 조건수가 유지되는 사전(prior) 신호에 미치는 영향에 대한 사전 내재화 상한을 도출한다. 실제 데이터에 대한 실험에서 AdaPCLA는 꼬리 타당성, 하위 태스크 유용성, 제로샷 제어에서 일관된 향상을 보인다. 특히 MIMIC-III에서 HALO 대비 TailPairSeen을 114.2% 개선하고 MIMIC-IV에서는 65.1% 개선했으며, 제로샷 교차 집단 적응에서 GPT 스타일 생성보다 F1을 3.5% 더 높였다.
롱테일 흉부 X선(CXR) 분류 모델에서 높은 랭킹 성능에도 불구하고 희귀 양성 환자가 임계값 이하로 누락되는 서브그룹별 과소진단 문제를 분석하며, 그룹-테일 가중치(group-tail weighting)와 테일 인식 임계값(tail-aware thresholding)을 결합하여 VinDr-CXR 기준 테일 거짓 음성률(FNR)을 0.665에서 0.269로, 성별·연령 최악 그룹 FNR을 각각 0.157, 0.133까지 대폭 낮출 수 있음을 보인다. 이 연구는 CXR 공정성(fairness)이 레이블 빈도나 랭킹 지표만으로 결정되지 않고, 소견·서브그룹·운영 임계값의 조합에 공동으로 의존함을 VinDr-CXR 및 MIMIC-CXR/CXR-LT 두 코호트에서 실증적으로 확인한다.
흉부 X선 다중 레이블 분류에서 롱테일 분포로 인한 희귀 질환 인식 성능 저하 문제를 해결하기 위해, TRCGL-Net은 텍스트 유도 조건부 확산 모델 기반 데이터 증강, 채널 재가중 및 클래스 인식 어텐션을 통한 특징 강화, 레이블 공동 발생 기반 그래프 합성곱 네트워크를 통합한 프레임워크를 제안한다. PadChest 데이터셋 실험에서 꼬리 클래스 mAP 0.4904, 전체 mAP 0.4408, mAUC 0.8989를 달성하며 최신 기법들을 능가하였다.
전체 슬라이드 이미지(WSI) 기반 다중 장기 병리 보고서 자동 생성에서 장기 유형의 긴 꼬리(long-tail) 분포로 인한 시각적 표현 바이어스와 텍스트 디코딩 바이어스를 해결하기 위해, Visual-Prototype Anchored Bottleneck(VPAB)과 Meta-Report Anchored Bank(MRAB)로 구성된 PriOrGen 프레임워크를 제안한다. VPAB는 정보 병목 원리를 활용해 진단과 무관한 패치를 제거하고, MRAB는 Gemini-Pro로 구축한 장기별 메타 보고서 뱅크에서 텍스트 사전(prior)을 검색해 디코더가 헤드 클래스 서술 패턴에 편향되지 않도록 유도함으로써, 헤드 및 테일 장기 범주 모두에서 최신 방법 대비 우수한 성능을 달성한다.
Federated Graph Learning facilitates collaborative graph modeling across distributed clients while preserving data privacy. However, real-world data categories frequently exhibit long-tailed distributions. Such statistical scarcity severely degrades performance in two ways: it biases the global model toward majority classes, and it structurally isolates minority nodes by submerging them in heterophilic, head-dominated neighborhoods. While existing methods attempt topology-agnostic statistical compensations, they often fail under data scarcity. Instead of recovering tail nodes, they overfit the structural noise from adjacent dominant classes, leading to representation degradation. To address these limitations, we propose FedEPD, a framework built on a dual decoupling paradigm that separates topological purification from semantic recalibration. Specifically, FedEPD utilizes distribution-aware Dirichlet energy pruning to filter spatial heterophilic edges. It then overcomes Non-IID distribution shifts by extracting robust global prototypes from topologically central nodes, which are incorporated into local representations via a spatial low-pass prototype injection. Furthermore, a two stage alternating optimization strategy strictly protects majority decision boundaries while improving minority accuracy. Extensive experiments demonstrate that FedEPD achieves state-of-the-art performance across diverse long-tailed benchmarks, yielding absolute improvements of up to 4.97% in Accuracy and 5.48% in Macro-F1.
우리는 비디오 행동 인식에서 롱테일 데이터에 대한 학습 문제를 다룬다. 행동 프로필과 학습 예시에 그라운딩된 다양한 텍스트 프롬프트를 조건으로 하는 텍스트-투-비디오 생성 모델을 사용하여 학습 데이터셋을 증강할 것을 제안한다. Gen2Balance라고 부르는 우리의 접근법은 불균형한 학습 데이터셋을 실제 및 생성된 비디오 클립의 균형 잡힌 조합으로 변환한다. 이러한 데이터로부터 효과적으로 학습하기 위해, 도메인 시프트(domain shift)를 완화하고 상당한 성능 향상을 달성하는 2단계 학습 전략을 사용한다. UCF-101(UCF-LT) 및 시간적으로 어려운 행동을 우선적으로 선별한 Kinetics의 100클래스 부분집합(K100-LT)과 같은 표준 벤치마크의 롱테일 버전에서 평가한다. Gen2Balance는 각각의 데이터셋에서 롱테일 학습을 위한 최강 베이스라인 대비 정확도를 5.1% 및 7.0% 향상시킨다. RareAct 데이터셋의 희귀 행동(예: cut keyboard)에서 Gen2Balance는 정확도를 31.9% 향상시켜, 희소 행동에 대한 효과를 보여준다. 추가하는 합성 데이터의 양을 변화시킴으로써, 부분적 균형화만으로도 K100-LT에서 연산 비용의 27%로 성능 향상의 79%를 이미 달성함을 보여주며, Gen2Balance의 실용적 확장성을 강조한다.
본 논문에서는 ICRA 2026 GOOSE 2D 세분화 시맨틱 분할(FGSS) 챌린지를 위해 Mask2Former를 작업 특화적으로 적용한 GOOSE-M2F를 제안합니다. GOOSE 벤치마크는 구조화되지 않은 야외 지형에 걸쳐 64개의 세분화 클래스를 포함하며, 희소 클래스가 이미지당 50픽셀 미만을 차지하는 심각한 롱테일 분포를 특징으로 합니다. 우리는 Swin-Large Mask2Former 기준선(baseline)을 다음의 세 가지 기여를 통해 확장했습니다: (1) 표현 포화(representational saturation)를 방지하기 위한 200개의 객체 쿼리(object queries), (2) ASPP-lite와 CBAM 듀얼 어텐션(dual-attention)을 결합한 특징(feature) 정제 모듈(FRM), (3) 희소 클래스에 대해 직접적인 픽셀당 그라디언트를 전달하는 보조 감독 헤드(Auxiliary Supervision Head). 다단계 학습(training) 전략은 분포 균형 손실(Distribution-Balanced loss), 희소 클래스 복사-붙여넣기(Rare-Class Copy-Paste) 증강, 동적 IoU 인식 재가중화(dynamic IoU-aware re-weighting), EMA를 결합합니다. 추론(inference) 시에는 2D 가우시안 커널(kernel) 블렌딩과 4스케일 TTA를 적용한 밀집 슬라이딩 윈도우 엔진을 사용하여 성능을 10.57% 향상시켰습니다. GOOSE-M2F는 공식 복합 mIoU 70.08%(세분화 63.55%, 일반 76.61%)를 달성하여 GOOSE 2D FGSS 리더보드에서 3위를 차지했습니다. 코드와 학습된 모델은 GitHub: https://github.com/Aditya-Lingam-9000/GOOSE-M2F 및 Hugging Face: https://huggingface.co/XYZ9843/GOOSE-M2F에서 공개적으로 제공됩니다.