arXiv:2605.14907v2 cs.AI

KGPFN: 문맥 내 학습을 통해 지식 그래프 파운데이션 모델의 잠재력을 열다

KGPFN: Unlocking the Potential of Knowledge Graph Foundation Model via In-Context Learning

Yisen Gao, Jiaxin Bai, Haoyu Huang, Zhongwei Xie, Yufei Li, Hong Ting Tsang, Sirui Han, Yangqiu Song

제출 2026-05-14

한국어 초록

지식 그래프(KG) 파운데이션 모델은 전이 가능한 관계 구조를 학습함으로써 이전에 보지 못한 개체와 관계를 가진 그래프로 일반화하는 것을 목표로 합니다. 그러나 기존 방법 대부분은 관계 수준의 보편성에만 초점을 맞추고 있어, 파운데이션 모델의 또 다른 기둥인 문맥 내 학습(ICL)은 KG 추론에서 거의 탐색되지 않았습니다. KG의 문맥은 구조화되어 있고 이종적(heterogeneous)입니다. 정확한 예측을 위해서는 질의 개체의 국소적 이웃뿐만 아니라 질의 관계가 여러 인스턴스에 걸쳐 어떻게 동작하는지를 요약하는 전역적 문맥 모두를 조건으로 삼아야 합니다. 본 논문에서는 전이 가능한 관계 표현과 구조화된 문맥에 대한 추론 시점의 문맥 내 학습을 결합한 사전 데이터 적합 네트워크(PFN) 기반의 KG 파운데이션 모델인 KGPFN을 제안합니다. KGPFN은 관계 그래프에서의 메시지 전달을 통해 관계 표현을 학습하고, 다층 NBFNet의 중간 헤드 표현에서 다중 스케일 국소 문맥을 추출합니다. 그런 다음 질의 관계의 양성 및 음성 예시와 이들의 국소적 구조 표현으로부터 관계 특화 전역 문맥을 구축하고, 특징 수준 및 샘플 수준 어텐션으로 이 문맥을 집약합니다. 다중 그래프 사전학습을 통해 KGPFN은 추론 시점의 매개변수 업데이트 없이도 구조적 표현과 레이블이 지정된 문맥적 근거를 결합하는 방법을 학습합니다. 57개 지식 그래프에서 KGPFN은 미세조정을 적용하지 않은 경우와 적용한 경우 모두에서 최고의 평균 MRR을 달성했으며, 문맥 민감도 분석은 음성 문맥 예시의 가치를 강조합니다. 코드는 https://github.com/HKUST-KnowComp/KGPFN 에서 확인할 수 있습니다.

원문 초록

Knowledge graph (KG) foundation models aim to generalize to graphs with unseen entities and relations by learning transferable relational structure. Most existing methods, however, focus on relation-level universality, leaving in-context learning, the other pillar of foundation models, largely unexplored for KG reasoning. Context in KGs is structured and heterogeneous: accurate prediction requires conditioning both on the local neighborhood of the query entities and on global context that summarizes how the query relation behaves across many instances. We propose KGPFN, a KG foundation model built on a Prior-Data Fitted Network (PFN) that combines transferable relational representations with inference-time in-context learning over structured context. KGPFN learns relation representations by message passing on relation graphs and extracts multi-scale local context from the intermediate head representations of a multi-layer NBFNet. It then builds relation-specific global context from positive and negative examples of the query relation, together with their local structural representations, and aggregates this context with feature-level and sample-level attention. Through multi-graph pretraining, KGPFN learns to combine structural representations with labeled contextual evidence without inference-time parameter updates. On 57 knowledge graphs, KGPFN achieves the best average MRR both without and with fine-tuning, and context sensitivity analyses highlight the value of negative context examples. Our code is available at https://github.com/HKUST-KnowComp/KGPFN.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2605.14907v2

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.00224v2cs.AI공통 태그 Knowledge Graphs, In-Context Learning

Build2SPARQL: 빌딩 지식 그래프 쿼리를 위한 대규모 Text-to-SPARQL 벤치마크 데이터셋

Build2SPARQL: A Large-Scale Text-to-SPARQL Benchmark Dataset for Building Knowledge Graph Querying

빌딩 자동화 시스템은 Brick 및 ASHRAE 223P와 같은 온톨로지를 사용하는 시맨틱 지식 그래프(KG)로 점점 더 많이 표현되고 있으며, 이는 인공지능 응용을 위한 기계 판독 가능한 기반을 형성합니다. 유망한 응용 분야 중 하나는 자연어 질문을 SPARQL로 변환하는 Text-to-SPARQL로, 빌딩 관리자가 언어 에이전트를 통해 이러한 그래프를 쿼리할 수 있게 해주지만 대규모 자연어/SPARQL 벤치마크의 부족으로 발전이 제한되고 있습니다. 본 논문에서는 지식 그래프 기반(KG-grounded) 파이프라인으로 생성된 빌딩 지식 그래프용 대규모 벤치마크인 Build2SPARQL을 제시합니다. 이 파이프라인은 SPARQL 쿼리를 전적으로 그래프 순회 코드로 생성 및 검증하는 반면, 대규모 언어 모델(LLM)은 자연어 질문만을 생성하도록 하여 쿼리의 정확성을 모델의 동작과 독립적으로 유지합니다. 해당 파이프라인은 선형 체인, 분기, UNION, 집계, OPTIONAL, 속성 필터링의 6가지 쿼리 패턴 패밀리를 추출하며, 각 쿼리를 5가지 어휘 레지스터에 걸쳐 표현합니다. 201개의 빌딩 지식 그래프(Brick 180개, ASHRAE 223P 21개)에 적용하여 6,136개의 실행 가능한 SPARQL 쿼리와 30,680개의 질문을 도출했습니다. 300개 질문에 대한 2인 평가자 인적 검증 결과 98.8%의 시맨틱 충실도, 98.8%의 자연스러움, 84.0%의 운영 타당성을 확인했습니다. 3개의 공개 가중치(open-weight) 언어 모델에 걸친 검색-증강 평가에서는 완전 일치(exact-match) 정확도가 0.2~20%(제로샷)에서 56~65%(3샷 검색)로 향상되었습니다.

arXiv:2610.15836v1cs.CL공통 태그 Representation Learning, In-Context Learning

잠재 분류체계: 언어 모델 사전학습에서 속성 유도는 어떻게 발달하는가

Latent Taxonomies: How Property Induction Develops in Language Model Pre-training

로빈(robin)이 종자골(sesamoid bone)을 가진다는 말을 들으면, 사람들은 이 속성을 참새에게 확장할 가능성이 고래에게 확장할 가능성보다 훨씬 높다. 이러한 행동은 범주 기반 속성 유도(category-based property induction)라고 불리며 인간에게서는 잘 입증되어 있지만, 다음 토큰 예측만으로 학습된 언어 모델에서 이러한 능력이 발달하는지, 그리고 어떻게 발달하는지는 명확하지 않다. 이를 밝히기 위해 우리는 공유하는 속성에 따라 그룹화된 합성 개체(synthetic entity)들의 계층적 분류체계(taxonomy)를 구성한다. 그런 다음 이 잠재 분류체계로부터 얻은 사실들을 Pythia와 OLMo 2 모델(70M에서 7B 파라미터)의 지속적 사전학습(continued pre-training)에 주입하고, 유도적 행동의 발달 과정을 추적한다. 우리는 분류체계에 부합하는 유도가 다음 토큰 예측만으로도 나타난다는 것을 발견했다: 한 개체에 대해 학습된 속성은 동일한 분류 범주 내에서 범주 간보다 더 강하게 전이된다. 내부적으로는 더 깊은 범주를 공유하는 개체들이 활성화 공간(activation space)에서 더 유사해지며, 군집화(clustering)를 수행하면 개체 표현(entity representation)으로부터 전체 분류 트리를 복원할 수 있다. 스케일이 도움이 될 것이라는 일반적인 예상과 달리, 데이터 예산이 고정된 경우 모델 크기가 커질수록 유도 능력이 약화되는 것으로 나타났으며, 이는 더 큰 모델이 개별 사실들을 공유 구조로 압축하기보다는 그대로 암기한다는 것을 시사한다. 또한 유도 능력은 분류체계 주입 이전의 사전학습이 많을수록 강화되고, 새로운 문맥 내(in-context) 속성으로도 전이되며, 프롬프트가 암시하는 잠재 분류체계에 의해 무효화될 수 있다. 종합적으로 이러한 결과는 모델의 유도적 일반화가 학습 데이터의 잠재적 구조를 반영한다는 것을 보여주며, 이는 데이터 큐레이션(data curation)과 학습된 사실이 얼마나 널리 전파될지 예측하는 데에 함의를 지닌다.

arXiv:2609.27173v1cs.CL공통 태그 Representation Learning, Knowledge Graphs

중요한 것을 실현하기: 대규모 추론을 위한 원칙 기반 컨텍스트 표현

Realize What Matters: Principled Context Representation for Large-Scale Reasoning

과학, 의학, 법률, 금융 등의 영역에서 복잡한 과제를 해결하려면 종종 모델의 컨텍스트 한계를 훨씬 넘어서는 광대하고 이질적인 출처에 흩어진 상호 의존적인 정보를 조합해야 한다. 기존 접근법은 그래프, 텍스트 메모리, 검색 컬렉션 등 모델이 추론할 수 있는 더 다루기 쉬운 표현으로 정보를 구성하여 이 과제에 대응한다. 이러한 표현은 어떤 후속 추론이 가능한지, 궁극적으로 성공 여부를 좌우하지만, 그 설계와 구축은 대체로 임의적(ad hoc)으로 이루어진다. 본 연구에서는 관련성 실현(relevance realization)의 인지 이론에 기초하여, 매우 큰 컨텍스트의 효과적인 표현을 구성하는 AI 시스템 설계를 위한 구체적 원칙을 제안한다. 기존 접근법을 분석하고 그 성공과 실패가 이러한 원칙과의 정렬(alignment)에 어떻게 대응되는지 보이며, 원칙을 보다 체계적으로 실행 가능하게 하도록 설계된 하네스 R3Con을 소개한다. R3Con을 대규모 문서 코퍼스에 대한 추론을 다룬 최근 벤치마크 두 개에서 아홉 개의 최신 기준선과 비교 평가한다. 이 벤치마크에서 R3Con은 가장 강한 기준선보다 각각 20 및 8.4 퍼센트포인트만큼 크게 우수한 성능을 보인다. 또한 더 작은 모델이 훨씬 큰 모델보다 나은 성능을 내도록 한다: 4B 및 9B 모델을 사용한 R3Con은 평가된 모든 35B 기준선을 능가하고, 35B-A3B 모델을 사용한 R3Con은 Claude-Sonnet-5를 사용한 Claude Code보다 3.7배 낮은 비용으로 더 나은 성능을 보인다. 결과는 우리의 원칙적 접근을 따르는 컨텍스트 표현이 모델 규모에 대한 의존을 줄일 수 있음을 보여주며, 더 작은 모델로 구동되는 프론티어 수준 성능의 AI 시스템의 미래를 가리킨다. 코드는 https://github.com/michaeltheologitis/r3con 에서 제공된다.

arXiv:2609.27679v1cs.LG공통 태그 Representation Learning, In-Context Learning

정형 파운데이션 모델은 문맥 내에서 무엇을 계산하는가? 어텐션 게이트 업데이트를 통한 현장 표현 정제

What Do Tabular Foundation Models Compute In Context? In-Situ Representation Refinement through Attention-Gated Updates

모든 테이블이 새로운 지도학습 태스크를 정의할 때, 정형 파운데이션 모델(tabular foundation model)은 재사용 가능한 어떤 계산을 학습해야 하는가? 본 연구에서는 현장 표현 정제(in-situ representation refinement)를 개발한다. 이는 서포트 레이블(support label)이 에피소드의 표현 업데이트를 유도하고, 이러한 업데이트가 모델 파라미터를 변경하지 않고도 레이블이 없는 쿼리로 전이되도록 한다. 정규화된 LOO(leave-one-out) 목적식은 서포트 보정과 이에 대한 쿼리 확장을 도출한다. 주요 항은 어텐션(attention) 기반의 읽기와 상태 의존적 스케일링을 분리하며, 이는 선택된 저랭크 특징 상호작용 및 유형화된 메모리를 갖춘 어텐션 게이트 기반의 FFN 없는 문맥 스택인 RefineICL의 동기가 된다. RefineICL-L24는 AMLB29에서 0.93836 OVR-AUC와 0.87173 정확도에 도달한다. 벤치마크 기반의 연장 학습 버전은 38개 데이터셋의 TabArena 스냅샷에서 1644.8 Elo를 달성하여 동일한 평가 하에서 TabPFN-3보다 31.4 Elo 높은 수치를 기록한다. 또한 두 가지 TabZilla 뷰 모두에서 TabPFN-v3 대비 보고된 4가지 지표를 모두 향상시킨다. 동일 조건의 10만 회 업데이트 깊이 그리드에서, 확장된 FFN은 일관된 검증(validation) 이점을 제공하지 못하며 L8에서 최대 추론(inference) 메모리를 60.2% 더 많이 사용한다. 내부 개입 실험에 따르면 서포트 표현은 단순한 정적 레이블 소스 이상임을 보여준다. 즉, 쿼리 출력을 보존한 채 중간 서포트 업데이트 하나를 제거하면 테스트된 72개 에피소드 전체에서 최종 쿼리 교차 엔트로피(cross-entropy)가 증가한다. 종합적으로 이러한 유도 과정과 개입 실험은 어텐션 게이트 업데이트가 문맥 내에서 어떻게 태스크 특화 예측기를 구성할 수 있는지를 설명한다.

arXiv:2609.27863v1cs.AI공통 태그 Knowledge Graphs, Link Prediction

지식 베이스 완성을 위한 충실성 기준의 위계

A hierarchy of faithfulness criteria for knowledge base completion

지식 그래프 완성은 관찰된 트리플을 무작위로 손상시킨 트리플보다 높게 순위 매기는 방식으로 평가되며, 이는 관찰되지 않은 모든 사실을 거짓으로 취급한다. 완성 대상이 단순 그래프가 아니라 기술 논리(description logic) 지식 베이스일 때, 개방 세계 가정(open world assumption)과 연역적 폐쇄(deductive closure) 때문에 이 방식은 부적절하다. 지식 베이스에 상대적으로 후보 공리는 함의(entailed)되거나, 모순(contradictory)이거나, 미정(undetermined)이며, 논리적으로 불가능한 공리와 그럴듯한 새로운 공리를 구분하지 못하는 모델은 단순히 정확도가 낮은 것이 아니라 의미론적으로 올바르지 않다. 우리는 지식 베이스 완성 모델이 논리적으로 충실(logically faithful)하다는 것이 무엇을 의미하는지, 그리고 현재 임베딩 모델이 그런지를 묻는다. 판별(discrimination), 논리적 허용 가능성(logical admissibility), 단조 논리적 충실성(monotonic logical faithfulness), 확률적 논리적 충실성(probabilistic logical faithfulness)이라는 네 가지 점점 더 엄격한 기준의 위계를 정의하고, 이들이 함의의 엄격한 연쇄를 이룸을 증명한다. 가장 엄격한 기준을 상대 모델 개수 $P(\alpha\mid\mathcal{O}) = \#(\mathcal{O}\cup\{\alpha\})/\#(\mathcal{O})$에 기반시키며, 이는 양 끝점에서 삼분법(trichotomy)을 복원하고 그 사이에서 미정 공리들의 순위를 매긴다. 추론기(reasoner)로 생성한 함의·모순·미정 테스트 집합을 사용하여 $\mathcal{EL}$ 온톨로지에서 지식 그래프 및 논리-기하 임베딩 모델을 평가한 결과, 순위 정확도가 논리적 충실성을 함의하지 않으며 평가된 모델 중 어느 것도 위계 전반에 걸쳐 충실하지 않음을 확인한다. 코드는 https://github.com/bio-ontology-research-group/kbc 에서 이용할 수 있다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.