PyTorchKR Papers

최신 논문

총 2편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2607.09057v1cs.CV

STEAM: 탄력적 매칭과 적응형 정제를 통한 안정적 자기학습

STEAM: Stable Self-Training with Elastic Matching and Adaptive Purification

교차 뷰 지오-로컬라이제이션(Cross-view geo-localization, CVGL)은 드론 뷰 이미지와 위성 뷰 이미지를 매칭하여 GPS 없는 위치 추정을 달성하는 것을 목표로 한다. 기존의 지도 학습 방법은 대규모로 수동 주석된 교차 뷰 이미지 쌍에 의존하기 때문에 비용이 많이 들고 확장이 어렵다. 반면 기존의 비지도 학습 방법은 주로 생성 모델이나 클러스터링 기반의 단계별 최적화에 의존하는데, 이는 분포 바이어스와 노이즈가 많은 의사 레이블(pseudo-label)의 누적에 취약하다. 이러한 한계를 해결하기 위해, 우리는 실제 드론 및 위성 이미지에 대해 직접 자기학습(self-training)을 수행하는 엔드-투-엔드 비지도 교차 뷰 지오-로컬라이제이션 프레임워크인 STEAM(Stable Self-Training with Elastic Matching and Adaptive Purification)을 제안한다. 구체적으로, 제안된 Stable Spatial-Aware Module은 특징(feature) 표현의 안정성을 향상시키고, Elastic Matching은 고품질의 교차 뷰 의사 레이블을 발굴하며, Adaptive Purification은 자기학습 과정 전반에 걸쳐 신뢰할 수 있는 의사 레이블 저장소를 동적으로 유지한다. University-1652 및 SUES-200 벤치마크에 대한 광범위한 실험을 통해, STEAM이 기존의 모든 비지도 방법 중 최고 수준의 성능을 달성하고 지도 학습 방법과 비교 가능한 성능을 제공함을 입증하여, 제안된 프레임워크의 효과성과 우수성을 검증하였다. 소스 코드는 https://github.com/wsx-heu/STEAM.git 에서 확인할 수 있다.

arXiv:2606.11583v1cs.LG

황금 교사를 넘어: LLM-GNN 공동 교수법을 통한 그래프 학습 강화

Beyond the Golden Teacher: Enhancing Graph Learning through LLM-GNN Co-teaching

텍스트 속성 그래프(TAGs)는 인용 네트워크, 소셜 미디어, 전자상거래와 같은 실제 애플리케이션의 기반이 됩니다. TAGs에서의 퓨샷 그래프 학습은 어렵습니다: 클래스당 소수의 레이블만 있고 나머지 그래프는 주석이 달리지 않기 때문에, GNN이나 LLM 모두 단독으로는 잘 학습할 수 없습니다. GNN은 토폴로지를 읽지만 콜드 노드에서 실패하고, LLM은 텍스트를 읽지만 텍스트가 모호한 노드에서 실패합니다. 기존 LLM-GNN 방법들은 모두 동일한 방식을 따릅니다: 하나의 모델을 황금 교사로 지정하고 그 출력(예: 특징 또는 의사 레이블)을 사용하여 다른 모델을 감독합니다. 우리는 희소 감독 하에서는 이 황금 교사 가정이 깨진다고 주장합니다: 어느 모델도 황금 교사가 아니며, 그렇게 취급하면 맹점이 학생 모델로 전이됩니다. 따라서 우리는 묻습니다: 어느 모델도 황금 교사로 지정하지 않고도 효과적인 그래프 학습을 수행할 수 있을까요? 우리는 LLM-GNN 공동 교수법(Co-Teaching)으로 답합니다. 이는 어느 모델도 교사로 고정되지 않는 양방향 공동 교수법 프레임워크입니다. GNN과 LLM은 아키텍처별 작은 손실(small-loss) 기준에 따라 가장 확신 있는 의사 레이블을 교환하고, 매 라운드마다 둘 다 업데이트됩니다. 감독 신호는 궤적에서 추출됩니다: 노드가 라운드 t에서 모델 간 모순에서 라운드 t+1의 모델 간 일치로 이동할 때마다, 동일한 입력에 대한 LLM의 두 답변이 DPO 학습을 위한 선호 쌍(과거의 모순되는 자신 < 새로운 동료가 보증한 자신)을 형성합니다. 우리는 이를 라운드 기반 의사 레이블 선호 최적화(RPL-PO)라고 부릅니다. 6개의 벤치마크에서 LLM-GNN 공동 교수법은 GNN-as-Judge 및 모든 이전 방법을 일관되게 능가하며, Cora에서 7.86%, ogbn-arxiv에서 7.73%의 절대적인 3샷 성능 향상을 보였습니다; 개선 사항은 5샷 및 제로샷 데이터셋 간 전이로 이어집니다. 오류 구조 분석은 황금 교사 가정을 포기하는 것이 어려운 샘플에서 LLM의 그래프 학습 능력을 실질적으로 향상시킴을 추가로 보여줍니다.