우리는 비지역적(nonlocal) 전파와 지속적인 레이블 정보를 결합한, 준지도 그래프 학습을 위한 소스 기반(source-driven) 분수 열 커널(fractional heat-kernel) 프레임워크를 개발한다. 라플라시안(Laplacian) 널 공간(null space)과 양립 가능한 고정된 0이 아닌 레이블 소스는 해당 공간으로의 점근적 붕괴(collapse)를 방지하여, 긴 확산 시간에서 과평활화(oversmoothing)를 완화하는 메커니즘을 제공한다. 분수 차수(fractional order)는 상대적 모드 감쇠와 지속 응답의 스펙트럼 가중치를 제어하며, 확산 시간은 전파 범위(propagation horizon)를 설정한다. 우리는 정규화된 그래프와 비연결 그래프에서의 보존 법칙과 평형 상태를 규명하고, 널 공간 디플레이션(null-space deflation)을 개발하며, 전파 연산자(propagator)의 근사를 분석한다. Two-Moon에서는 분수 차수가 소스 없는 전파를 개선하며, 양립 가능한 소스 기반 확산은 차수 0.8과 1에서 클래스당 학습 레이블 1개로 평균 정확도 96%를 초과한다. Cora와 CiteSeer에서는 소스 기반 파이프라인이 클래스당 학습 레이블 1개에서 GAT보다 평균 정확도를 각각 9.2%p와 8.0%p 향상시키며, 500개의 레이블된 검증 노드에서 모델을 선택하고 고전적 파이프라인 구성과 분수 파이프라인 구성이 서로 근접하게 비교 가능하다; PubMed에서는 GAT와 동등한 성능을 보이며, Cora에서 클래스당 레이블 10개와 20개에서는 GAT보다 낮은 성능을 보인다. GraphHeat 내에서는 공통 확산 시간에서 검증 기반 지수 선택이 클래스당 레이블 1개에서 1.45%p의 짝비교(paired) 성능 향상을 가져온다.
악천후 이미지 복원은 비, 연무, 눈 및 기타 기상 유발 인공물로 인해 열화된 이미지를 복구하여 야외 비전 시스템의 강건성을 향상시키는 것을 목표로 합니다. 기존의 통합 복원 모델들은 합성 지도(synthetic supervision)에 의존하고 의미적 제약이 불충분하여 실제 환경 장면에 대한 일반화 성능이 제한적입니다. 본 논문에서는 두 가지 문제를 모두 해결하는 새로운 학생-교사(student-teacher) 준지도 프레임워크를 제안합니다. 구체적으로, 대조 학습을 위한 정보성 높은 음성 샘플(negative samples)로서 실패한 교사 예측을 보존하는 신뢰할 수 없는 데이터베이스를 도입하는 한편, 신뢰할 수 있는 데이터베이스에는 고품질 교사 예측을 양성 샘플(positive samples)로 저장합니다. 신뢰할 수 있는 의사 실측값(pseudo-ground truths)과 신뢰할 수 없는 교사 출력을 함께 활용함으로써, 제안된 프레임워크는 흔히 발생하는 실패를 피하면서 바람직한 복원 특성을 강화하도록 학습합니다. 나아가 계산 비용이 큰 텍스트 기반 지도를 효율적이며 자연스럽게 정렬된 의미적 사전 정보로 대체하는 위상 스펙트럼 기반 의미적 제약을 제안합니다. 또한 열화의 심각도에 따라 열화된 입력과 교사의 의사 실측값 간의 지도를 동적으로 균형 맞추는 적응형 위상 일관성 손실(adaptive phase consistency loss)을 설계했습니다. 실제 벤치마크에 대한 광범위한 실험을 통해 제안하는 방법이 실제 악천후 조건에 대해 더 강력한 일반화 성능을 보이는 동시에, 복원 품질과 지각적 충실도 측면에서 기존의 최고 수준(SOTA) 접근법들을 일관되게 능가함을 입증합니다.
불법 암호화폐 거래 탐지는 극심한 클래스 불균형, 적대적 난독화, 신뢰할 수 있는 라벨의 부족으로 어렵다. 반지도 학습(SSL)은 비라벨 데이터를 활용해 유망한 해결책을 제공하지만, 우리는 그 성공이 데이터 양만으로 보장되지 않으며 데이터 품질에 달려 있음을 보인다. 우리는 Shared Send Mixers(SSM) 거래에서 불법 비트코인 흐름을 탐지하기 위한 SSL 프레임워크를 제안하며, 이는 1억 6,300만 건의 거래로 구성된 포괄적 역사적 데이터셋 위에 구축되었다. 핵심 결론은 SSL의 성공이 데이터 양이 아니라 품질에 달려 있다는 것이다: KeyLinker 주소 클러스터링 및 Shared Send Untangling(SSU) 복잡도 지표와 같은 고충실도 특징은 비라벨 데이터에서 F1 점수 0.84를 달성한다. 마지막으로, One-Time Change(OTC)와 같은 흔한 휴리스틱은 풍부하지만 노이즈를 유입시키는 반면, KeyLinker와 같은 고충실도 특징에 대한 전략적 의존이 필수적임을 실증적으로 보인다. 본 연구는 블록체인 포렌식에서 더 나은 성능으로 가는 길이 더 큰 데이터셋만이 아니라, 데이터 품질을 위한 더 스마트한 특징 엔지니어링에 있음을 확립한다.
언어 모델은 외부의 지도 없이도 정확도를 향상시킬 수 있을까요? 토론(debate), 부트스트랩(bootstrap), 내부 일관성 최대화(internal coherence maximization)와 같은 방법들은 골든 파인튜닝(golden finetuning) 성능에 필적하기까지 하며 이러한 놀라운 성과를 달성합니다. 그러나 이들이 왜 작동하는지는 이론적으로 여전히 불분명합니다. 본 논문에서는 이러한 방법들이 모두 가장 압축 가능하고 공동으로 예측 가능한 문맥-행동 매핑(context-to-behavior mapping)을 탐색하는 '일관성 최적화(coherence optimization)'로 이해될 수 있음을 보입니다. 이때 토론은 그 정확한 사례이며, 부트스트랩과 내부 일관성 최대화는 이와 밀접한 관련이 있습니다. 또한 일관성 최적화가 기술 길이 정규화(description-length regularization)와 동등함을 증명하며, 이러한 모든 정규화 방식 중 사전학습된 모델에서 도출된 사전 확률(prior)을 사용하는 일관성 정규화가 준지도 학습(semi-supervised learning)의 최악 조건 정확도(worst-case accuracy) 하한을 최적화함을 증명합니다. 예비 실험을 통해 뒷받침되는 본 이론은 피드백 없는 자기 개선(feedback-free self-improvement)이 왜 작동하는지 설명하고, 이것이 언제 성공하거나 실패할지 예측합니다.
본 논문에서는 3D 의료 이미지 분할(image segmentation)에서의 적응형 연산 문제를 다룹니다. 새로운 백본을 설계하는 대신, 각 네트워크 단계에 얼만큼의 스펙트럼 혼합이 필요한지 묻고 최적화(optimization)를 통해 그 해답을 찾도록 합니다. 저자들은 분수계 열 방정식(fractional heat equation)의 이산 코사인 변환(DCT) 해로부터 2-매개변수 연산자 군인 FHEAT를 유도합니다. 분수 차수 alpha와 확산 강도 D가 이 연산자를 제어하며, D=0일 때 정확히 항등(identity) 연산자가 됩니다. 반군 시간 tau = D*alpha로 재매개변수화하면 동일 해상도 인스턴스들이 정확히 합성되므로, 동일 해상도 단계에 걸친 임의의 확산 분포는 학습된 강도를 갖는 단일 소볼레프(Sobolev) 형태의 정규화기로 귀결됩니다. 이러한 항등 극한을 통해 설계자가 아닌 각 층(layer)의 옵티마이저(optimizer)가 전역 혼합이 필요한지, 그리고 그 혼합이 얼마나 급격해야 하는지를 결정할 수 있게 됩니다. 저자들은 적응형 유리 함수 활성화가 적용된 콜모고로프-아놀드 믹서(KAN3D)와 결합된 경량 U자형 아키텍처(Light-UNETR)에 FHEAT를 구현하여 FHEAT-Seg를 제안합니다. 세 가지 공개 벤치마크에서 5%~20%의 레이블 비율로 진행된 학습(training) 결과, 그래디언트(gradient) 기반의 스펙트럼 희소화가 나타났습니다. 8개의 단계별 연산자 중 7개가 D를 0으로 유도했으며, 살아남은 연산자는 준지도 어텐션(attention) 맵을 공급하는 디코더 층에서 가장 급격한 저역 통과(alpha ~ 0.9)로 수렴했습니다. 배제된 층들은 추론(inference) 시 정확한 항등 숏컷이 되어, 0.975M개의 매개변수(parameter) 환경에서 FLOPs를 4.29G에서 0.90G로 79% 절감합니다. 표준 준지도 프로토콜에서 FHEAT-Seg는 90.47%(좌심방), 78.79%(Pancreas-CT), 81.90%(BraTS 2019)의 Dice 점수를 기록하여 5가지 준지도 방법론과 Light-UNETR 기준선(baseline)을 능가했습니다. 또한 대형 변형 모델은 완전 지도 환경에서도 2.851M 매개변수와 55.75G FLOPs로 Light-UNETR-L을 능가했습니다(Dice 93.09%, 85.11%, 87.19%). 이러한 결과는 스펙트럼 연산의 할당이 수동 설계로 결정해야 하는 요소가 아니라 최적화 역학의 학습 가능한 속성임을 시사합니다.
심층 학습(deep learning)을 이용한 다중 장기 분할(multi-organ segmentation)은 주석(annotation)이 달린 대량의 환자 데이터를 필요로 하지만, 각 기관에는 충분히 크고 다양한 주석 데이터셋(dataset)이 부족한 경우가 많습니다. 또한 개인정보 보호 제약으로 인해 이러한 한계를 극복하기 위해 기관 간에 환자 데이터를 공유하는 것도 불가능합니다. 더욱이 주석 작업의 노동 집약적인 특성과 다양한 전문성의 부족으로 인해, 기관들은 일반적으로 로컬 데이터의 극히 일부에 대해서만 레이블을 보유하고 있어 레이블이 없는 더 많은 양의 데이터는 활용되지 못한 채 남겨집니다. 본 연구에서는 참여 사이트 전반에서 레이블이 지정된 데이터와 레이블이 지정되지 않은 데이터를 모두 활용하여 다중 장기 분할 성능을 개선하기 위해 연합 학습(FL)을 활용하는 유연한 준지도 연합 멀티태스크 학생-교사 프레임워크를 제안합니다. 제안된 프레임워크는 각 통신 라운드마다 로컬 학습(training)을 시작하며, 동일한 태스크에 대한 레이블을 보유한 클라이언트들이 연합을 구성하여 집합된 교사 모델(teacher model)을 생성합니다. 이렇게 생성된 교사 모델은 각 클라이언트의 모든 데이터에 대해 태스크별 특징(feature)을 생성합니다. 이어서 모든 클라이언트는 두 번째 연합을 구성하여 공유 인코더와 모든 분할 태스크에 걸쳐 교사가 생성한 특징을 복제하는 태스크별 디코더를 갖춘 멀티태스크 학생 모델(student model)을 학습시킵니다. 이후 집합된 학생 모델은 로컬 교사 모델을 업데이트하고 다음 학습 라운드를 시작하는 데 사용됩니다. 광범위한 실험을 통해 제안된 방법이 로컬 및 연합 단일 장기 모델 대비 효과적임을 입증하였으며, 클라이언트 전반에 걸쳐 평균 13%의 성능 향상을 달성했습니다. 또한 실험을 통해 멀티태스크 학습과 레이블이 지정되지 않은 데이터의 영향력, 그리고 클라이언트 참여를 위한 레이블 데이터 요구 조건을 완화하는 데 본 프레임워크를 적용할 수 있음을 입증했습니다. 코드는 https://github.com/AshknMrd/FedMust 에서 확인할 수 있습니다.
인간의 시각적 선호는 본질적으로 다차원적이며, 미학, 디테일 충실도, 의미 정렬을 포괄한다. 그러나 기존 데이터셋은 단일의 전체적 주석만 제공하여 심각한 레이블 노이즈를 초래한다. 일부 차원에서는 뛰어나지만 다른 차원에서는 부족한 이미지가 단순히 승자 또는 패자로만 표시된다. 우리는 다차원 선호를 이진 레이블로 압축하면 Diffusion 직접 선호 최적화(DPO)를 오도하는 상충하는 그래디언트 신호가 발생함을 이론적으로 보인다. 이를 해결하기 위해 우리는 Semi-DPO를 제안한다. 이는 일관된 쌍을 깨끗한 레이블 데이터로, 상충하는 쌍을 노이즈가 있는 비레이블 데이터로 취급하는 준지도 학습 접근법이다. 우리 방법은 합의로 필터링된 깨끗한 부분집합으로 학습을 시작한 다음, 이 모델을 암묵적 분류기로 사용하여 노이즈 집합에 대한 의사 레이블을 생성하고 반복적으로 정제한다. 실험 결과는 Semi-DPO가 최신(state-of-the-art) 성능을 달성하고, 학습 중 추가 인간 주석이나 명시적 보상 모델 없이도 복잡한 인간 선호와의 정렬을 크게 개선함을 보여준다. 코드와 모델은 https://github.com/L-CodingSpace/semi-dpo 에서 공개할 예정이다.
자기학습(ST)은 간단하면서도 효과적인 준지도 학습(semi-supervised learning) 방법이다. 그러나 오류가 있을 수 있는 의사 라벨(pseudo-label)을 사용하여 ST가 왜, 어떻게 일반화 성능을 향상시키는지는 아직 충분히 이해되지 않았다. ST에 대한 이해를 심화하기 위해, 입력 차원과 데이터 크기가 비례하여 발산하는 점근적 극한에서, 이진 가우시안 혼합에 대해 릿지 정규화된 볼록 손실을 최소화하여 선형 분류기를 학습할 때 반복적 ST의 행동을 정밀하게 특성화하여 도출하고 분석한다. 결과는 반복 횟수에 따라 ST가 서로 다른 방식으로 일반화를 향상시킴을 보여준다. 반복 횟수가 적을 때, ST는 비교적 신뢰할 수 있는 의사 라벨에 모델을 적합시키고 각 반복에서 모델 매개변수를 크게 갱신함으로써 일반화 성능을 향상시킨다. 이는 ST가 직관적으로 작동함을 시사한다. 반면, 반복이 많을 때 ST는 소프트 라벨과 작은 정규화를 사용하여 모델 매개변수를 점진적으로 갱신함으로써 분류 평면의 방향을 점차 개선할 수 있다. 이는 ST의 작은 갱신이 거의 잡음 없이 데이터로부터 정보를 추출할 수 있기 때문이라고 주장된다. 그러나 라벨 불균형이 있을 때, ST의 일반화 성능은 진짜 라벨을 사용한 지도 학습보다 낮다. 이를 극복하기 위해, 상당한 라벨 불균형이 있어도 ST가 지도 학습과 거의 동등한 성능을 달성할 수 있게 하는 두 가지 휴리스틱을 제안한다.
의료 영상 분석에서 최소한의 인간 감독으로 학습하는 것은 오랜 목표이며, 밀집된 전문가 주석은 비용이 큽니다. 본 연구는 주석이 달린 이미지 하나와 레이블 없는 이미지 풀을 사용하는 극한 반지도(semi-supervised) 설정에서 망막 혈관 분할을 다룹니다. 우리는 수동 주석을 위해 대표적인 기준 이미지를 선택하고, 대상 도메인에 적응된 DINOv3 특징을 사용하여 혈관 단서를 전이하는 ESRVS를 제안합니다. ESRVS는 다중 세분화 혈관 프로토타입을 구성하고, 프로토타입 유사도 맵과 물리학에서 영감을 받은 사전(prior)을 결합하여 초기 의사 레이블(pseudo-label)을 생성하며, 가중 의사 레이블 학습과 적대적(adversarial) 정제를 통해 전이된 감독을 정제합니다. 8개의 공개 데이터셋에서 ESRVS는 비교된 반지도 방법들이 10~20%의 레이블 데이터를 사용함에도 불구하고, 6개 데이터셋에서 최고의 Dice와 clDice를, 8개 데이터셋 모두에서 최고의 HD95를 달성합니다. Mask2Former와 함께 ESRVS는 평균적으로 완전 감독 Dice의 93.7%와 완전 감독 clDice의 95.1%를 유지합니다. 이러한 결과는 고도로 레이블 효율적인 망막 혈관 분할을 위한 파운데이션 모델(foundation model) 레이블 전파의 잠재력을 보여줍니다. 코드는 https://github.com/IAANNH/ESRVS 에서 이용할 수 있습니다.
텍스트 속성 그래프(Text-Attributed Graphs, TAGs)는 그래프 토폴로지와 풍부한 텍스트 의미론을 통합하는 표현력 있는 데이터 모델로 부상했다. 기존 TAG 표현 학습 방법은, 특히 대규모 언어 모델(LLM)과 함께 사용할 때 심각한 확장성 병목을 겪는다. 데이터 증류가 유망한 데이터 중심 해결책을 제공하지만, 기존 방법은 그래프와 텍스트 모달리티 간의 복잡한 상호작용을 포착하지 못하고, 반지도 설정에 내재된 레이블 부족 문제에 어려움을 겪으며, LLM 기반 후속 작업에 필요한 사람이 읽을 수 있는 텍스트 속성을 생성할 능력이 부족하다. 이러한 과제를 해결하기 위해, 우리는 Wasserstein Distance(WSD)에 의해 안내되는 통합 반지도 프레임워크 \algo{}를 제안한다. 실제 TAG에 대한 우리의 경험적 발견에 기반하여, \algo{}는 협력적 자기학습(collaborative self-training) 방식 내에서 이중 경로 인코더(그래프 인식 및 그래프 비인식)를 활용하는 그래프-텍스트 협력 인코딩 모듈을 도입하여, 신뢰할 수 있는 의사 레이블(pseudo-label)을 수확하고 상보적인 그래프-텍스트 특징을 융합한다. 또한, 우리는 이론적으로 정당화된 WSD 기반 그래프 스케치(sketching) 알고리즘과 비용 효율적인 LLM 텍스트 합성 모듈을 개발하며, 이는 클러스터 기반 키워드 추출을 활용하여 응축된 노드에 대해 일관되고 사람이 읽을 수 있는 요약을 생성한다. 벤치마크 데이터셋에 대한 광범위한 실험은 \algo{}가 GNN 및 LLM 기반 후속 작업 모두에서 최첨단(state-of-the-art) 성능-압축 트레이드오프를 달성하여, 효과적이고 효율적인 TAG 학습 또는 분석을 가능하게 함을 보여준다.
음향 임피던스 영상은 지하 분석에서 근본적이면서도 심각하게 ill-posed한 문제이다. 지진 파형(wavelet)은 알려져 있지 않고, 관측값은 대역 제한(band-limited)이며, 라벨이 붙은 well-log 샘플은 매우 희소하다(전체 트레이스의 일반적으로 1% 미만). 기존 반지도 심층 학습 방법은 정방향 모델링(forward modeling)을 통합하여 퓨샷 문제를 완화하지만, 부정확한 사전 파형 가정에 의존하거나 보조 네트워크를 도입하여 불안정한 최적화와 성능 저하를 초래한다. 우리는 정규화 디컨볼루션(regularized deconvolution)과 반지도 교차 학습을 통합한 새로운 프레임워크인 RD-SCL을 제안한다. 핵심은 학습 중 주파수 영역에서 잠재 파형을 동적으로 추정하는 미분 가능한 폐형 1차 Tikhonov 디컨볼루션 연산자로, 명시적 보조 네트워크와 고정 파형 사전분포 없이 안정적인 물리 유도 피드백을 제공한다. 이 연산자를 기반으로 라벨이 있는 데이터와 없는 데이터에 대한 예측 간 일관성을 강제하는 대칭적 교차 학습을 설계하여, 풍부한 라벨 없는 트레이스를 효과적으로 활용한다. SEAM 및 Marmousi 2 벤치마크에 대한 광범위한 실험에서 RD-SCL은 최신 지도 및 반지도 방법을 일관되게 능가하며, 더 낮은 계산 비용으로 상당한 성능 향상을 달성한다. 학습 가능 파라미터 56.5k와 경쟁력 있는 실행 시간만으로 RD-SCL은 음향 임피던스 영상을 위한 실용적이고 물리적으로 일관되며 효율적인 해법을 제공한다.
일반적인 반지도 학습(SSL) 방법은 분포 가정에 의존하며, 이러한 가정이 위반되면 성능이 저하된다. 위험 재작성 방법인 PNU 학습은 분포 무관 대안을 제공하지만, 이진 분류에 제한되며 분산 최적성은 불분명하다. 본 논문에서는 구성 요소 위험의 선형 결합을 사용하여 편향 없는 위험 추정량을 구성하는 일반화된 프레임워크를 제안하며, 이는 PNU 학습을 포괄하고 다중 클래스 분류로 확장한다. 달성 가능한 최소 분산을 도출하여, 비대칭 손실 시나리오에서 우리 추정량이 PNU보다 더 낮은 분산을 달성할 수 있음을 보인다. 또한 이 분산 감소를 향상된 학습 성능과 직접 연결하는 일반화 경계를 확립한다. 이러한 이론적 통찰에 기반하여, 이진 및 다중 클래스 벤치마크에서 기존 접근법과 동등하거나 더 우수한 성능을 실증적으로 보이는 두 가지 실용적인 SSL 방법을 제안한다.
자기지도 학습(self-supervised learning)은 전체 레이블의 일부만으로 지도 학습 수준의 정확도를 달성하지만, 이를 뒷받침하는 레이블 샘플 효율성에 대한 이론적 설명은 부족했다. 본 연구에서 이를 제공한다. 데이터 증강은 비레이블 데이터에 유사도 그래프(similarity graph)를 형성하며, 따라서 해당 그래프에서의 하위(downstream) 학습은 그래프 라플라시안 정규화(graph-Laplacian-regularized) 학습이다. Johnson and Zhang (JMLR 2007)의 leave-one-out 안정성(leave-one-out stability) 기법을 증강 그래프에 적용하여, 한계 기반 분석(정확한 커널, 일반화 가능한 특징)의 비현실적 가정 없이, 지도 학습의 $O(1/\sqrt{n_L})$ 대신 레이블 수 $n_L$에 대해 $O(1/n_L)$의 빠른 transductive 수렴률을 증명한다. 이 경계는 증강 품질을 명시적으로 드러낸다. 기대 오차는 최대 $C/n_L + R_{\mathrm{DA}}(y)$이며, 여기서 데이터 증강 정렬 오류 $R_{\mathrm{DA}}(y)$는 레이블 경계를 가로지르는 증강의 graph-cut mass에 비례하므로, 좋은 증강을 사용하면 적은 레이블로 충분하다. 분석은 표준 목적 함수의 projector, negative-sample, orthogonality 오버헤드를 제거한 간소화된 손실을 사용하지만, Zhai et al.이 연구한 증강-커널 고유공간(augmentation-kernel eigenspace)에서 무한 데이터 한계(infinite-data limit)에 있는 top-$K$ 이상적 특징(ideal features)을 여전히 복원한다. 이 경계는 증강 품질을 통해 정확도-레이블 수 곡선에 대한 기제적 설명을 제공하며, 상수가 알려진 통제 모델(controlled model)에서 이를 검증한다.
자기지도(self-supervision)는 레이블 없는 데이터로부터 시각 표현을 학습하는 강력한 기법이다. 기존 기법들은 주로 자기지도 학습(SSL)에 대해 2단계 접근법을 채택한다: 레이블 없는 데이터에 대한 사전학습 단계와 그에 이어 레이블 있는 데이터에 대한 파인튜닝 단계. 이 파이프라인은 극도의 효과를 보여주었지만, 자기지도 학습 목표와 지도 학습 목표 간의 상호작용은 여전히 충분히 이해되지 않았다. 본 연구에서는 학습 중 자기지도 목표와 지도 목표를 공동으로 최적화하는 것이 더 나은 대안이 되는지를 체계적으로 조사한다. 두 가지 학습 패러다임을 비교한다: (1) 앞서 언급한 사전학습 후 파인튜닝(PFT)과 (2) 동일한 네트워크에서 자기지도 손실과 지도 손실을 동시에 최적화하는 공동 학습(JT). 8가지 대표적인 SSL 방법과 자연, 의료, 위기 대응, 원격 탐사 데이터를 포함한 다양한 컴퓨터 비전(CV) 과제에서 레이블 데이터 비율을 변화시키며 성능을 평가한다. 결과는 PFT와 JT의 상대적 효과가 과제, 레이블 데이터의 가용성, 도메인 복잡도에 크게 의존한다는 것을 보여준다. JT는 레이블이 적은 설정에서 견고하면서 데이터 및 학습 효율을 일관되게 향상시키는 반면, PFT는 더 전문화된 도메인에서 더 신뢰할 수 있다. 표현 품질, 견고성, 교차 도메인 일반화를 추가로 분석하여 최적화 과정에서 자기지도 목표와 지도 목표가 어떻게 상호작용하는지에 대한 새로운 통찰을 제공한다. 하이브리드 SSL 기반 준지도 학습을 위한 포괄적인 경험적 벤치마크를 구축하고, 다양한 시각 응용 분야에서 적절한 학습 전략을 선택하기 위한 실용적 지침을 제시한다.
정확 이벤트 스포팅(Precise Event Spotting, PES)은 시각적으로 유사하지만 의미적으로 구별되는 인접 프레임을 구분해야 하므로, 이미지 분류 및 세밀하지 않은 행동 인식과 근본적으로 다릅니다. DINO와 같은 자기 증류 방법이 이미지에서 강력한 표현 학습 능력을 보였음에도 불구하고, 이를 PES에 직접 적용하면 효과적이지 않다는 것을 발견했습니다. 지도 학습 없이는 미묘하지만 중요한 모션 단서가 노이즈로 억제되어 정확한 이벤트 경계에 둔감한 표현으로 이어집니다. 이를 해결하기 위해, 프레임 수준 위치 파악에 필요한 모션에 민감하고 경계를 인식하는 단서를 보존하고자 프로젝션 헤드 출력이 아닌 시간적으로 유익한 백본 특징을 정렬하는 반지도 학습 목적 함수인 시간적 특징 증류(Temporal Feature Distillation)를 제안합니다. 램프업 스케줄을 갖춘 지도 학습 웜업은 레이블 없는 증류가 시작되기 전에 의미 있는 이벤트 단서가 학습되도록 보장함으로써 학습을 더욱 안정화합니다. 또한 비전 트랜스포머에 모션 인식 시간 정보를 주입하는 다중 스케일 게이팅 이동 모듈인 Transformer Gate Shift를 소개합니다. 네 가지 세밀한 스포츠 벤치마크에 대한 실험은 완전 지도 학습 및 반지도 학습 기준선 대비 일관된 성능 향상을 보여줍니다. FSPerf에서 10% 지도 학습 조건 하에서 우리의 방법은 가장 강력한 경쟁 접근법 대비 mAP를 4.54 포인트 향상시키며, 80%의 레이블 데이터만으로도 네 개 데이터셋 중 두 개에서 완전 지도 학습 100% 기준선과 동등하거나 이를 능가합니다.
이미지 데이터의 증가하는 가용성이 상당한 발전을 이끌어왔지만, 데이터셋 레이블링은 여전히 비용이 많이 들고 시간 소모적이다. 이에 따라 레이블된 데이터와 레이블되지 않은 데이터 모두에서 학습하는 그래프 합성곱 네트워크(GCN)와 같은 준지도 방식이 유망한 해결책으로 부상하고 있다. GCN을 이미지 분류에 적용할 때의 주요 과제 중 하나는 그래프 구성이다. 인용 네트워크나 유사한 도메인과 달리, 이미지는 일반적으로 사전 정의된 구조적 표현을 가지지 않기 때문이다. 시각 데이터의 경우, 대부분의 연구는 사전학습된 심층 학습 백본에서 추출한 특징 벡터 간의 유사도를 기반으로 그래프를 구성하며, 일반적으로 kNN 또는 상호 kNN 알고리즘을 활용한다. 대규모 언어 모델(LLM)이 고수준 의미론을 포착하는 데 뛰어난 능력을 보여주었음에도 불구하고, 이미지 분류를 위한 GCN과의 통합은 아직 충분히 탐구되지 않았다. 이 공백을 채우고자, 본 접근법은 비전-언어 모델(VLM)을 활용하여 이미지의 텍스트 설명을 생성하고, 이를 LLM이 처리하여 연결된 이미지 간의 의미론적 유사도 점수를 추정한다. 이 점수는 kNN 및 상호 kNN 그래프에서 엣지를 가지치기하는 데 활용되어 의미론적으로 무관한 이웃을 필터링한다. 실험 결과, 그래프 정제를 위해 LLM을 활용하면 특히 kNN 그래프와 일부 백본에서 분류 정확도가 향상될 수 있음이 밝혀졌다. 소스 코드는 http://gcnllm.lucasvalem.com 에서 공개적으로 이용 가능하다.
수중 환경의 빛 감쇠 및 산란으로 인한 어노테이션 부재 문제를 해결하기 위해, Wat3R는 교사-학생 아키텍처 기반의 크로스 도메인 준지도 학습(semi-supervised learning) 프레임워크로 VGGT를 수중 도메인에 적응시키며 어노테이션 없이 실제 수중 영상만으로 학습한다. 크로스 뷰 일관성 손실(Cross-View Consistent Loss)과 새로 구축한 Water3D 데이터셋을 통해 수중 다시점 깊이 추정 및 포인트 클라우드 재구성에서 최고 성능(SOTA)을 달성했다.
그래프 기반 준지도 학습(SSL)에서 레이블이 희소할 때 표준 이차($p=2$) 라플라시안이 퇴화하는 문제를 해결하기 위해, 비선형 $p$-라플라시안 에너지를 소스 형태의 흐름 방정식으로 재구성하고 $p$에 대한 감쇠 chord-Newton 연속법과 준선형 라플라시안 솔버를 결합한 근사 선형 시간 알고리즘을 제안한다. 228개의 실제 그래프에서 $m^{1.19}$의 실증적 복잡도를 달성하며, MNIST 10-NN 벤치마크에서 클래스당 레이블 하나 조건 시 $p=3$이 $p=2$의 36%에 비해 64%의 정확도를 기록하고 기존 FCL 솔버 대비 최대 14배 빠른 속도로 $6.8\times10^7$ 엣지 규모의 소셜 네트워크도 처리한다.
반지도 학습 GAN(SSL-GAN)의 불안정한 학습 문제를 해결하기 위해, 판별자(discriminator) 학습을 지도 손실과 비지도 손실을 별도 목적함수로 분리한 다목적 최적화 문제로 정식화하는 COMOD-SSLGAN을 제안한다. Pareto 지배 기반의 판별자 집단 선택을 통해 분류 정확도와 진짜/가짜 판별 간 다양한 트레이드오프를 유지하며, MNIST 실험에서 SSL-GAN 및 CE-SSL-GAN 대비 향상된 학습 안정성과 분류 정확도를 달성했다.
반지도 모방 학습(SSIL) 환경에서 역방향 동역학 모델(IDM)이 행동 복제(BC) 대비 우수한 샘플 효율성을 보이는 이유를 이론적으로 분석하며, 이는 IDM의 가설 클래스 복잡도가 낮고 전문가 정책보다 확률적 불확실성이 작기 때문임을 통계적 학습 이론과 실험으로 규명한다. 이러한 인사이트를 바탕으로 잠재 행동 정책 학습 알고리즘인 LAPO의 개선 버전(LAPO+)을 제안하고 Procgen, Push-T, LIBERO 벤치마크에서 우수한 성능을 검증한다.