arXiv:2301.11792

Graph Attention with Hierarchies for Multi-hop Question Answering

Yunjie He, Philip John Gorinski, Ieva Staliunaite, Pontus Stenetorp

제출 2023-01-27

원문 초록

Multi-hop QA (Question Answering) is the task of finding the answer to a question across multiple documents. In recent years, a number of Deep Learning-based approaches have been proposed to tackle this complex task, as well as a few standard benchmarks to assess models Multi-hop QA capabilities. In this paper, we focus on the well-established HotpotQA benchmark dataset, which requires models to perform answer span extraction as well as support sentence prediction. We present two extensions to the SOTA Graph Neural Network (GNN) based model for HotpotQA, Hierarchical Graph Network (HGN): (i) we complete the original hierarchical structure by introducing new edges between the query and context sentence nodes; (ii) in the graph propagation step, we propose a novel extension to Hierarchical Graph Attention Network GATH (Graph ATtention with Hierarchies) that makes use of the graph hierarchy to update the node representations in a sequential fashion. Experiments on HotpotQA demonstrate the efficiency of the proposed modifications and support our assumptions about the effects of model related variables.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2609.26737v1cs.SI공통 태그 Graph Attention, Graph Neural Network

확산 유도 공간 어텐션 기반 중첩 커뮤니티 탐지

Diffusion-Induced Spatial Attention Overlapping Community Detection

중첩 커뮤니티 탐지는 노드가 여러 구조적 또는 기능적 그룹에 동시에 속하는 네트워크를 모델링하는 데 필수적이다. 기존 그래프 신경망 접근법은 일반적으로 국소 메시지 패싱에 의존하는데, 이는 스무딩(smoothing)으로 인해 커뮤니티 경계를 흐릴 수 있으며 구조적으로 관련된 장거리 의존성의 표현을 제한한다. 본 논문에서는 영향력 확산 동역학에서 도출한 구조적 사전 분포(structural prior), 희소 멀티헤드 어텐션, 비음수 커뮤니티 소속도 학습을 결합한 딥러닝 프레임워크인 DISCO(Diffusion-Induced Spatial Attention Community Detection)를 제안한다. 이 사전 분포는 직접 인접한 이웃 너머의 후보 상호작용을 식별하고 구조적 근접도에 따라 어텐션에 편향을 부여하며, 베르누이-푸아송(Bernoulli-Poisson) 엣지 재구성 목적 함수는 노드 속성, 구조적 프로파일 또는 이 둘 모두로부터 중첩 커뮤니티를 추론할 수 있게 한다. 벤치마크 실험 결과, DISCO는 다양한 입력 구성에서 기존의 그래프 합성곱 및 그래프 어텐션 접근법과 대등한 성능을 보였다. 실용적 적용 가능성을 보이기 위해, 연속된 통신 네트워크 스냅샷에서 추론한 커뮤니티 할당 간의 변화가 해석 가능한 이상 징후 신호를 제공하는 사이버 보안 사용 사례를 개념 증명(proof-of-concept)으로 제시한다. 시간적 커뮤니티 유사도는 구조적 이탈을 식별하고, 노드 수준의 기여도는 이와 관련된 장치를 찾는 데 도움을 준다. 따라서 DISCO는 중첩 커뮤니티 탐지를 위한 유연한 방법이자 동적 네트워크의 구조적 변화를 분석하기 위한 기반을 제공한다.

arXiv:2607.22875v1cs.LG공통 태그 Graph Attention, Graph Neural Network

Graph Attention Network를 이용한 토양 미세플astics 및 유기물의 공간 예측

Spatial Prediction of Soil Microplastics and Organic Matter Using Graph Attention Networks

토양 미세플astics 및 유기물의 정확한 추정은 생태계 건강을 평가하고 지속 가능한 토지 이용을 지원하는 데 필수적이다. 본 연구는 91개의 지리좌표가 부여된 토양 시료 간 공간적 의존성을 모델링하기 위해 Graph Attention Networks(GAT)를 사용하는 그래프 기반 심층 학습 접근법을 제시한다. 공간 좌표, 토양 특성, 토지 이용 데이터를 통합하여 지역적 상호작용을 포착하는 2층 GAT 아키텍처를 개발하였다. 최종 모델은 우수한 성능을 보였으며, 미세플astics에 대해 RMSE 625.06($R^2 = 0.87$), 유기물에 대해 0.43($R^2 = 0.91$)을 달성하였다. 그러나 교차 검증 결과 일반화 성능이 제한적임이 드러났으며, 이는 아마도 작은 표본 크기와 희소한 그래프 구조 때문인 것으로 보인다. 이러한 결과는 공간적 토양 예측에서 GAT의 잠재력을 보여주며, 밀집된 데이터셋과 개선된 그래프 연결성의 필요성을 강조한다.

arXiv:2610.00224v2cs.AI공통 태그 Question Answering

Build2SPARQL: 빌딩 지식 그래프 쿼리를 위한 대규모 Text-to-SPARQL 벤치마크 데이터셋

Build2SPARQL: A Large-Scale Text-to-SPARQL Benchmark Dataset for Building Knowledge Graph Querying

빌딩 자동화 시스템은 Brick 및 ASHRAE 223P와 같은 온톨로지를 사용하는 시맨틱 지식 그래프(KG)로 점점 더 많이 표현되고 있으며, 이는 인공지능 응용을 위한 기계 판독 가능한 기반을 형성합니다. 유망한 응용 분야 중 하나는 자연어 질문을 SPARQL로 변환하는 Text-to-SPARQL로, 빌딩 관리자가 언어 에이전트를 통해 이러한 그래프를 쿼리할 수 있게 해주지만 대규모 자연어/SPARQL 벤치마크의 부족으로 발전이 제한되고 있습니다. 본 논문에서는 지식 그래프 기반(KG-grounded) 파이프라인으로 생성된 빌딩 지식 그래프용 대규모 벤치마크인 Build2SPARQL을 제시합니다. 이 파이프라인은 SPARQL 쿼리를 전적으로 그래프 순회 코드로 생성 및 검증하는 반면, 대규모 언어 모델(LLM)은 자연어 질문만을 생성하도록 하여 쿼리의 정확성을 모델의 동작과 독립적으로 유지합니다. 해당 파이프라인은 선형 체인, 분기, UNION, 집계, OPTIONAL, 속성 필터링의 6가지 쿼리 패턴 패밀리를 추출하며, 각 쿼리를 5가지 어휘 레지스터에 걸쳐 표현합니다. 201개의 빌딩 지식 그래프(Brick 180개, ASHRAE 223P 21개)에 적용하여 6,136개의 실행 가능한 SPARQL 쿼리와 30,680개의 질문을 도출했습니다. 300개 질문에 대한 2인 평가자 인적 검증 결과 98.8%의 시맨틱 충실도, 98.8%의 자연스러움, 84.0%의 운영 타당성을 확인했습니다. 3개의 공개 가중치(open-weight) 언어 모델에 걸친 검색-증강 평가에서는 완전 일치(exact-match) 정확도가 0.2~20%(제로샷)에서 56~65%(3샷 검색)로 향상되었습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.