arXiv:1911.09046

Heterogeneous Graph-based Knowledge Transfer for Generalized Zero-shot Learning

Jun-Jie Wang, Xiangfeng Wang, Bo Jin, Junchi Yan, Wenjie Zhang, Hongyuan Zha

제출 2019-11-20

원문 초록

Generalized zero-shot learning (GZSL) tackles the problem of learning to classify instances involving both seen classes and unseen ones. The key issue is how to effectively transfer the model learned from seen classes to unseen classes. Existing works in GZSL usually assume that some prior information about unseen classes are available. However, such an assumption is unrealistic when new unseen classes appear dynamically. To this end, we propose a novel heterogeneous graph-based knowledge transfer method (HGKT) for GZSL, agnostic to unseen classes and instances, by leveraging graph neural network. Specifically, a structured heterogeneous graph is constructed with high-level representative nodes for seen classes, which are chosen through Wasserstein barycenter in order to simultaneously capture inter-class and intra-class relationship. The aggregation and embedding functions can be learned through graph neural network, which can be used to compute the embeddings of unseen classes by transferring the knowledge from their neighbors. Extensive experiments on public benchmark datasets show that our method achieves state-of-the-art results.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2609.25722v3cs.LG공통 태그 Transfer Learning, Graph Neural Network

부호 그래프 사전학습 및 프롬프트 학습

Signed Graph Pre-Training and Prompt Learning

부호 그래프(signed graph)는 엣지가 양수이거나 음수일 수 있으며 방향성을 가질 수도 있는 신뢰-불신 네트워크, 금융 상관관계 시스템, 생물학적 상호작용 그래프 및 기타 여러 도메인에서 발생합니다. 부호 그래프 신경망이 특정 태스크에 특화된 학습(training)을 향상시켰지만, 부호 그래프에서의 그래프 전이학습(transfer learning)은 여전히 미진한 상태입니다. 본 논문에서는 부호 그래프를 위한 선구적인 위상학 기반 그래프 사전학습(pre-training) 및 프롬프트(prompt) 학습 프레임워크인 TopoSIGN을 소개합니다. TopoSIGN은 자기 부호 라플라시안(magnetic signed Laplacian)을 기반으로 구축된 구조적 인코더와 Dowker 복합체 지속성 이미지(Dowker-complex persistence images)를 통해 부호 위상을 요약하는 새로운 지속성 호몰로지(persistent-homology) 브랜치를 결합합니다. 융합된 임베딩(embedding)은 이후 프롬프트 학습 함수로 전달됩니다. 합성 및 실제 데이터셋(dataset)에 대한 실험 결과는 부호 그래프에서 유용한 구조적 정보를 추출하는 TopoSIGN의 효능뿐만 아니라, 제안된 일반 프레임워크의 적응성과 유연성을 입증합니다.

arXiv:2609.27710v3cs.CV공통 태그 Transfer Learning, Graph Neural Network

FFM-CP: 퓨샷 계산병리학을 위한 비전-언어 기반 모델의 교차 백본 융합

FFM-CP: Cross-Backbone Fusion of Vision-Language Foundation Models for Few-Shot Computational Pathology

병리학 비전-언어 기반 모델은 질환과 과제에 따라 성능이 달라지며, 어떤 단일 모델도 일관되게 최고 성능을 내지 못한다. 전문가 병리 주석의 높은 비용은 과제별 적응에 사용할 수 있는 라벨 데이터를 제한하기도 한다. 상호 보완적인 사전학습 표현을 결합하는 것은 이러한 한계에 대한 잠재적 접근이지만, 소수의 라벨 예시로부터 효과적인 융합을 학습하는 것은 여전히 어렵다. 본 연구는 퓨샷 학습 설정에서 여러 병리학 비전-언어 모델을 결합하는 프레임워크인 Few-shot Fusion Foundation Models of Computational Pathology(FFM-CP)를 제안한다. 이 프레임워크는 먼저 대응하는 서포트 이미지로부터 추정한 폐형식(closed-form) 직교 프로크루스테스(Orthogonal Procrustes) 변환을 사용하여 이질적인 표현을 정렬한다. 이 정렬은 추가 정렬 네트워크를 학습하지 않고도 모델 내부 특징 기하를 보존한다. 정렬된 공간 안에서 통합 그래프는 서포트 이미지 특징과 시각·텍스트 클래스 프로토타입을 공동으로 정제함으로써 백본 간 정보 교환을 가능하게 한다. 이렇게 정제된 표현은 의미적 클래스 지식과 클래스 내 시각적 변이를 각각 포착하는 상호 보완적인 텍스트-프로토타입 분기와 케이스 검색(case-retrieval) 분기를 지원한다. 각 분기는 모든 순서화된 백본 쌍의 예측을 결합하는 방법을 학습하여, 한 모델로 인코딩된 쿼리가 다른 모델이 표현한 증거를 활용할 수 있게 한다. 우리는 6개의 조직병리학 데이터셋에서 클래스당 4, 8, 16샷 조건으로 3가지 백본 조합을 평가했다. FFM-CP는 54번 비교 중 50번에서 각 융합 집합의 개별 적응 멤버 중 가장 강한 모델보다 더 높은 평균 macro-F1을 달성했다. 이러한 결과는 주석이 제한될 때 상호 보완적인 사전학습 표현의 결합이 조직병리학 분류를 개선할 수 있음을 시사한다.

arXiv:2610.15757v1cs.CL공통 태그 Transfer Learning, Zero-Shot Learning

저자원 언어 감성 분석에서의 제로샷 도메인 전이 향상: 마라티어 사례 연구

Enhancing Zero-Shot Domain Transfer in Low-Resource Sentiment Analysis: A Case Study in Marathi

감성 분석(sentiment analysis)은 텍스트 내 의견의 극성을 판별하는 자연어 처리(NLP)의 핵심 과제입니다. 마라티어와 같이 데이터가 제한되어 표준 통계적 방법론의 직접적인 적용이 어려운 저자원(low-resource) 언어의 경우, 모델은 주로 단일 도메인 데이터셋으로 학습됩니다. 이는 도메인 내(in-domain) 성능은 뛰어나지만, 보지 못한(unseen) 도메인에 대한 일반화 성능 저하로 이어집니다. 최근 연구들은 다중 도메인 모델링을 통해 다양한 실제 환경의 콘텐츠를 처리할 수 있는 도메인 견고형 시스템의 필요성을 강조하고 있습니다. 본 연구는 다중 도메인 학습이 보지 못한 마라티어 도메인에 대한 감성 분류를 어떻게 개선하는지 조사합니다. 모델은 단일 도메인, 2개 도메인 및 3개 도메인 데이터셋 조합을 사용하여 학습되었습니다. 실험 결과, 2개 도메인 학습은 단일 도메인 학습에 비해 보지 못한 도메인에 대한 정확도를 약 8% 향상시키는 것으로 나타났습니다. 세 번째 도메인을 추가하면 추가적인 개선이 이루어지지만, 그 증가 폭은 더 작아 일부 도메인에서는 평균 약 2% 수준이었습니다. 이러한 결과는 다중 도메인 데이터로 학습하는 것이 저자원 언어를 위한 더욱 견고한 감성 분석 모델을 구축하는 데 도움이 되지만, 도메인이 추가될수록 그 이득은 점차 줄어든다는 점을 시사합니다.

arXiv:2609.31765v2cs.CV공통 태그 Transfer Learning, Graph Neural Network

HGPTrans: 차량 공기역학적 항력 계수 예측을 위한 계층적 그래프 풀링 Transolver

HGPTrans: Hierarchical Graph-Pooling Transolver for Automotive Aerodynamic Drag Coefficient Prediction

공기역학적 항력 계수($C_D$)를 정확하고 신속하게 예측하는 것은 특히 수많은 후보 형상을 평가해야 하는 초기 설계 단계의 차량 설계에 필수적입니다. 전산유체역학(CFD)은 신뢰할 수 있는 공기역학적 추정치를 제공하지만, 높은 계산 비용으로 인해 대규모 설계 탐험(exploration)이 제한됩니다. 본 논문에서는 차량 표면 메시로부터 직접 $C_D$를 예측하기 위해 계층적 그래프 풀링(hierarchical graph pooling)과 Transolver 기반 어텐션을 결합한 계층적 그래프 풀링 Transolver(HGPTrans)를 제안합니다. 차량의 공기역학이 국소적 기하학적 특징과 공간적으로 떨어진 표면 영역 간의 장거리 상호작용 모두에 의존한다는 점에 착안하여, HGPTrans는 세 가지 상호보완적인 구성 요소를 통합합니다. 그래프 동형성 합성곱(Graph isomorphism convolution)은 변별력 있는 국소 기하학 정보를 인코딩하고, Transolver 방식의 슬라이스 어텐션은 선형 계산 복잡도로 전역적 상호작용을 포착하며, 정보 중복성을 고려한 계층적 풀링은 유익한 기하학적 구조를 보존하면서 중복 노드를 점진적으로 제거합니다. 이 모델은 대규모 DrivAerNet 및 DrivAerNet++ 데이터셋에서 학습(training) 및 평가(evaluation)되었으며, 평가된 베이스라인 중 가장 낮은 평균 절대 오차와 평균 제곱 오차를 달성했습니다. 또한 세단과 스포츠 유틸리티 차량(SUV)을 모두 포함하는 실제 차량 데이터셋에서의 전이학습(transfer learning)을 통해 일반화 성능을 추가로 검증하였으며, 차량당 약 $0.293$초의 추론(inference) 시간으로 1.56\%(세단) 및 2.12\%(SUV)의 상대 $L_1$ 오차를 기록했습니다. 이는 예측된 항력 계수를 CFD 기준치 대비 수 퍼센트 이내로 유지하면서 고정밀 CFD에 비해 몇 자릿수(orders of magnitude)에 달하는 속도 향상을 이루어낸 것에 해당합니다. 소제 연구(ablation study)를 통해 각 구성 요소의 기여도를 확인하고 네트워크 깊이 및 풀링 비율의 영향을 규명했습니다.

arXiv:2609.27036v1cs.LG공통 태그 Transfer Learning, Graph Neural Network

머신러닝 기반 고분자 물성 예측을 위한 공개 벤치마크

An open benchmark for machine learning-based polymer property prediction

고분자 물성 예측에는 머신러닝 방법론의 엄밀한 비교를 가능하게 하는 공개적이고 표준화된 벤치마크(benchmark)가 부족하며, 기존 리소스는 단일중합체(homopolymer)와 같이 좁은 범위의 고분자 구조만을 다룹니다. 본 연구에서는 실험적 측정, 밀도 범함수 이론(DFT), 분자 동역학(molecular dynamics) 데이터를 포함하여 8가지 물리적 특성에 걸친 약 250,000개의 고분자-물성 데이터포인트로 구성된 공개 데이터셋인 Polymer Benchmark 2026(PolyBench26)을 소개합니다. 이 벤치마크는 단일중합체 및 교대, 랜덤, 블록 공중합체에 걸쳐 분포 내(in-distribution) 물성 예측, 데이터셋 크기 스케일링(scaling), 반복 단위(repeat-unit) 복잡도, 미확인 고분자 구조로의 전이 등 4가지 평가(evaluation) 태스크를 지원합니다. 우리는 언어 모델(language model), 그래프 기반, 기술자(descriptor) 기반 접근법을 비교하였으며, 그래프 기반 모델이 물성 예측에서 가장 낮은 오차를 보이고 평가된 학습(training) 세트 크기 전반에서 우위를 유지하며 반복 단위 복잡도 증가에 대해서도 견고함을 유지한다는 것을 발견했습니다. PolyBench26은 점점 더 복잡해지는 고분자 설계 공간을 위한 모델을 개발하는 데 재현 가능한 기반을 제공합니다. PolyBench26 벤치마크는 https://github.com/rlearsch/PolymerBenchmark2026 에서 오픈소스로 이용할 수 있습니다.

arXiv:2609.28149v1eess.SY공통 태그 Transfer Learning, Zero-Shot Learning

EvEMTBench: 전력 시스템 보호를 위한 머신러닝 오픈 벤치마크

EvEMTBench: An Open Benchmark for Machine Learning in Power System Protection

머신러닝 기반 전력 시스템 보호에 관한 연구들은 과업 정의, 측정값 접근성, 데이터 분할, 평가 지표 및 일반화 조건이 서로 다른 경우가 많아 직접 비교하기 어렵습니다. EvEMTBench는 모델 설계는 자유롭게 유지하면서 이러한 평가 기준들을 고정한 공개적이고 실행 가능하며 버전 관리가 지원되는 벤치마크(benchmark)를 통해 이러한 간극을 해소합니다. 20~345 kV 범위에 걸친 4개 전력망을 대상으로, 24개의 점수 산정 과업으로 구체화된 12개의 보호 및 이벤트 분석 기능을 정의하며, 관측 가능성 조건, 사전 정의된 분포 변화(distribution shift), 제로샷(zero-shot) 및 파인튜닝(fine-tuning) 기반의 전력망 간 전이(cross-grid transfer) 전반에 걸친 구조화된 평가를 지원합니다. 확정된 데이터 분할, 데이터 누출(leakage) 제어, 재현 가능한 보고 체계는 향후 방법론들을 비교하기 위한 공통의 기준을 제공합니다. 기초적 베이스라인, 전통적 방식, 특징(feature) 기반 방식, 딥러닝 베이스라인을 아우르는 기준 평가 결과는 관측 가능성이 넓어진다고 해서 항상 유리한 것은 아니며, 분포가 변화된 조건에서는 내부 분포(in-distribution)에서 드러나지 않던 오류가 나타날 수 있고, 전력망 간 전이 성능은 고장 위치 추정보다 고장 감지에서 실질적으로 훨씬 더 강건하다는 점을 보여줍니다. 또한 보호 시스템 관점의 진단을 통해 주요 평가 지표만으로는 드러나지 않는 실패 모드를 식별합니다. 따라서 EvEMTBench는 머신러닝 기반 보호 분야의 일반화를 명시적이고 재현 가능한 평가 문제로 정립합니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.