관계 심층 학습(RDL)은 다중 테이블 데이터베이스를 이종 시간 그래프로 모델링하며, 그래프 트랜스포머는 RelBench와 같은 벤치마크에서 현재 최첨단 성능을 달성한다. 그러나 현재 선두 모델인 RelGT는 두 가지 핵심 한계가 있다. 무작위 로컬 샘플러가 느슨하게 연결된 부분 그래프를 만들어 메시지 전달을 방해하고, 전역 어텐션 모듈이 단일한 시드 특징 기반 메모리에만 의존해 더 넓은 거시적 수준의 역학을 놓친다. 이 한계를 극복하기 위해, 로컬 부분 그래프에 전체 셀프 어텐션을 적용하고 교차 어텐션 분기로 전역 문맥을 풍부히 하는 표현력 있는 그래프 트랜스포머 아키텍처 QUARTET을 제안한다. 구체적으로 QUARTET은 최근성 절단 개인화 PageRank(PPR)에 기반한 인과적 랜덤 워크(CRW) 샘플러로, 시간적 누출 없이 간결하고 허브-강건하며 밀집 연결된 로컬 부분 그래프를 추출한다. 동시에 4분기 교차 어텐션 모듈은 시드 특징, 시드 위상, 시간적 역학, 협력적 역학이라는 네 가지 상보적 관점에서 전역 문맥을 통합한다. RelBench v1 분류 과제 전반에서 QUARTET은 현재 최첨단 그래프 트랜스포머 기준선(HGT 및 RelGT)과 지속적으로 동등하거나 더 나은 성능을 보인다. 절제 연구는 CRW 샘플러가 로컬 이웃 품질을 크게 향상시키고, 전역 분기가 과제별로 필수적인 예측 이득을 제공함을 확인한다.
지식 그래프(KG)는 관계형 지식을 풍부하게 표현하지만, 불규칙한 구조로 인해 검색에 어려움이 따릅니다. 에고 그래프(ego-graph) 확장은 급격히 증가하며, 조밀한 임베딩(dense embedding) 방식은 다중 홉(multi-hop) 합성 쿼리 처리에 한계를 보입니다. 여러 접근 방식에서는 대규모 언어 모델(LLM) 에이전트를 활용해 KG를 탐색하고 후보 노드를 분석하여 다음 탐색 위치를 결정합니다. 이러한 접근법은 표현력이 뛰어나지만 상당한 계산 및 메모리 비용을 초래할 수 있습니다. 반면, 본 연구에서는 구조를 보강하고 이웃 인지 특성을 반영하더라도 그래프 노드에 대해 사전 계산된 조밀한 임베딩이 일련의 지식 그래프 쿼리에 답하기 위해 그래프 크기에 필적하는 임베딩 차원을 요구할 수 있음을 이론적으로 보입니다. 이러한 한계는 특정 조건에서 쿼리 적응형 임베딩을 통해 극복할 수 있으며, 이를 수행할 수 있는 그래프 신경망(GNN) 변형들이 존재합니다. 그러나 GNN으로 전체 그래프를 처리하는 것 역시 상당한 메모리와 계산 비용을 발생시킬 수 있으며, 각 노드가 쿼리에 답하는지 여부를 나타내는 조밀한 정답 라벨이 필요합니다. 앵커 노드 주변의 단순한 $k$-홉 선택 또한 문제가 될 수 있습니다. 작은 $k$는 탐색 가능한 노드를 제한하며, 3이나 4와 같은 작은 $k$ 값에서도 $k$-홉 서브그래프는 크게 증가할 수 있습니다. 본 연구에서는 메모리와 계산 부담이 훨씬 적고, 1단계 검색기(first-stage retriever)로서 추론 시 CPU에서 실행 가능하며, 학습 중 한 번에 소수의 노드에 대한 피드백만 필요로 하는 그래프 트랜스포머(Graph Transformer) 및 강화학습 기반의 새로운 접근 방식을 고안합니다. 우리는 이 방식이 KG에서 정보를 검색하기 위해 LLM을 파인튜닝하는 방식들과 견줄 만한 성능을 보임을 입증합니다. 본 연구의 방법을 SeedER(Seed-Expand-Retrieve)이라 부르며, 적은 계산 자원으로도 실행 가능한 1단계 검색기로 주로 활용될 수 있도록 자리매김합니다.
대규모 언어 모델(LLM)을 그래프 구조 데이터에 적용할 때는 일반적으로 텍스트 노드(node) 속성을 단일 토큰으로 압축한 뒤 GNN으로 추가 처리하는 다단계 파이프라인이 사용되며, 이 과정에서 대부분의 의미론적 내용이 손실됩니다. 본 논문에서는 사전학습된 LLM이 그래프 위상을 기본적으로 처리할 수 있도록 하여 이러한 병목 현상을 완전히 제거하는 그래프 트랜스포머 언어 모델(GTLM)을 소개합니다. GTLM은 기본 모델 대비 구조 관련 파라미터를 0.015%만 추가하면서 그래프 인식 어텐션(attention) 편향을 LLM의 어텐션 모듈에 직접 주입합니다. 학습(training)은 기본 모델의 LoRA 어댑터와 함께 구조 파라미터만을 업데이트합니다. 본 연구는 양방향 어텐션 접두 문맥(prefix)이 노드에 대해 순열 등변(permutation-equivariant)성을 가지며, 그래프가 없을 때는 GTLM이 사전학습된 모델과 정확히 동일하게 축소됨을 증명합니다. 전역적인 노드 순서가 없는 GTLM은 위치에 따른 성능 저하를 보이지 않으며 중간에서 길을 잃는 현상(lost in the middle)도 겪지 않습니다. 동일하게 학습된 일반 텍스트 기준선(baseline)의 성능이 무너지는 반면, needle-in-a-graph 정확도는 1,000토큰에서 64,000토큰까지, 그리고 학습 길이의 4배를 초과해도 안정적으로 유지됩니다. 포괄적인 평가 결과에 따르면, GTLM은 텍스트 속성 그래프 벤치마크, WebQSP 기반 GraphRAG, 분자 벤치마크에서 도메인 특화 SOTA 모델과 동등하거나 그 이상의 성능을 보였으며, GraphQA에서는 강력한 기준선 대비 유의미한 개선을 달성했습니다. 또한 GTLM의 어텐션 헤드가 암묵적으로 메시지 패싱(message passing)을 시뮬레이션하도록 학습됨을 보여주며, 이는 알고리즘 태스크에서의 강점을 설명합니다. 이러한 결과는 최소한으로 적응된 사전학습 LLM이 그래프 학습을 위한 범용 백본으로 기능할 수 있음을 시사합니다.
환자 단위 폐 초음파(LUS) 진단은 여러 해부학적 구역에 걸쳐 획득된 소견을 통합해야 하지만, 임상 검사에서는 구역이 누락되는 등 가변적이고 불완전한 스캔 프로토콜이 자주 발생합니다. 기존의 진단 인공지능 방법론들은 주로 개별 프레임이나 비디오 루프를 분석하며, 환자 단위 추론(inference)을 위해 구역 간 관계를 무시하는 최대 풀링(max pooling)이나 평균 풀링(mean pooling)과 같은 휴리스틱 집계 전략에 의존합니다. 본 논문에서는 시간적으로 추적된 병리 소견을 해부학적 구역 인접성으로 연결된 그래프 노드(node)로 표현하는 구역 인식 그래프 신경망(neural network)인 ZAGNet을 제안합니다. 그래프 트랜스포머(transformer) 네트워크는 인접한 폐 영역 전반에 걸쳐 문맥 정보를 전파하며, 가상 글로벌 노드는 그래프 수준의 특징을 집계하여 환자 단위 지도학습만으로 환자 단위의 폐 경화(consolidation) 및 흉막 삼출(pleural effusion)을 예측합니다. ZAGNet은 고정된 입력 형식이나 크기가 없는 그래프 구조 상에서 연산함으로써 누락된 구역을 유연하게 수용합니다. 전면, 후면 및 외측 흉부 영역에 걸쳐 4개에서 16개 구역으로 다양한 검사를 포함하는 714명의 대상자(20,256개 LUS 비디오 루프)로 구성된 다기관 데이터셋(dataset)에서 ZAGNet을 평가합니다. 폐 경화 진단에서 ZAGNet은 최대 풀링의 0.677 및 평균 풀링의 0.674에 비해 0.803의 AUC를 달성했습니다. 흉막 삼출의 경우 AUC가 최대 풀링의 0.804 및 평균 풀링의 0.815에서 0.893으로 향상되었습니다. 이는 폐 경화 및 흉막 삼출에 대해 각각 최대 19%와 11%의 향상을 나타냅니다. 이러한 결과는 그래프 기반의 구역 간 추론이 자동화된 환자 단위 LUS 평가를 위한 효과적이고 임상적으로 일관된 프레임워크를 제공함을 입증합니다.
전력망 문제를 위한 그래프 신경망(GNN)의 단일 과제 미세조정은 체계적인 실패 양상을 보인다. 분포 내(in-distribution) 오차가 가장 낮은 모델일수록 토폴로지 변화(topology shift) 하에서 가장 크게 성능이 저하된다. 이를 토폴로지 과적합(topology overfitting)이라 부른다. 과제 특화 그래디언트 신호가 기본 물리학(underlying physics)보다는 학습 토폴로지에 특화된 관계 구조를 인코딩하는 경향으로, 분포 내 성능이 우수함에도 불구하고 모델이 보지 못한 전력망에서 실패하게 만든다.
이 실패 양상을 드러내고 해결하기 위해, 공유 노드 인코더 위에서 K개의 과제 특화 GPS 분기를 실행하는 멀티플렉스 그래프 트랜스포머인 MxGPS(Multiplex GPS)를 제안한다. 이는 자기지도 사전학습 및 다중 과제 미세조정 프로토콜을 통해 정적 상태 추정(Static State Estimation, SSE)과 교류 전력 조류(AC Power Flow, PF)에 공동 학습되며, 교차 분기 어텐션 모듈은 ablation에서 평가되었다. SSE+PF 공동 목적 함수는 공유 인코더가 상보적인 그래디언트 신호를 동시에 만족하도록 강제하여, 토폴로지 특화 관계 구조에 대한 과적합을 방지한다.
3-fold 슬라이딩 윈도우 교차 검증(sliding-window cross-validation)으로 네 가지 보지 못한 토폴로지(14-, 24-, 162-, 300-bus)를 아우르는 실험에서, MxGPS는 네 가지 제로샷 Power Flow 토폴로지 모두에서 0% 경계 위반률(boundary violation rate, BVR)을 달성한다. 중요하게도, 분포 내 PF 오차가 실질적으로 더 낮은 모델들은 토폴로지 변화 하에서 190%에서 1400%까지 성능이 저하되는 반면, MxGPS는 39%에 불과하다. 이러한 역전 현상은 실패 메커니즘이 모델 용량 부족이 아니라 토폴로지 과적합임을 직접적으로 시사한다. 매개변수 160만 개(GridFM 참조 기준선 대비 12배 적음)만으로 MxGPS는 다중 과제 공동 학습이 전력망 파운데이션 모델에서 토폴로지 독립적(topology-agnostic) 일반화를 위한 원칙적이고 매개변수 효율적인 메커니즘임을 보여준다.
그래프 노이즈 제거에서 선형 어텐션이 학습 분포 전반의 평균 스펙트럴 필터만 학습할 수 있어 준최적임을 이론적으로 증명하고, 입력 그래프 스펙트럼을 직접 활용하는 Graph Convolutional Attention(GCA)을 제안하여 이 한계를 극복한다. GCA는 그래프 필터링된 쿼리와 키를 통해 스펙트럴 노이즈 제거를 구현하며, DiGress에서 고비용 구조적 특징 계산 없이 표준 그래프 트랜스포머에 필적하는 성능을 달성하고 PEARL 위치 인코딩과 결합 시 명시적 고유분해 없이도 빠른 추론이 가능함을 실험적으로 검증한다.
슈퍼픽셀 그래프 기반 이미지 분류에서 GNN의 장거리 의존성 포착 한계와 이동/회전 불변성 미보존 문제를 해결하기 위해, PCA 기반 전처리와 Graph Transformer를 결합한 SuperGT 프레임워크를 제안한다. CIFAR-10 벤치마크에서 다수의 베이스라인을 크게 상회하며, 각 슈퍼픽셀 경계점 좌표에 의존하는 기존 최고 성능 모델 ShapeGNN과 유사한 수준의 성능을 달성했다.
그래프 데이터의 희소하고 구조적인 상호작용에 맞지 않는 Transformer의 전방위 셀프어텐션(self-attention) 문제를 해결하기 위해, 대칭 정규화된 인접 행렬의 로그 변환값을 어텐션 로짓(attention logit)에 직접 주입하는 설명 가능한 다중 헤드 구조적 마스크 X-LogSMask를 제안한다. 각 어텐션 헤드에 인접 행렬의 서로 다른 거듭제곱을 할당해 단일 레이어에서 다중 홉(multi-hop) 정보 전파를 가능하게 하며, 20개 노드·엣지·그래프 수준 벤치마크 중 13개에서 최고 성능을 달성했다.
본 연구에서는 대규모 언어 모델(LLM)과 비전 트랜스포머(ViT)에 널리 채택된 최근의 트랜스포머 위치 인코딩 알고리즘인 회전 위치 인코딩(RoPE)을 그래프 구조 데이터에 적용할 수 있는 범위를 연구한다. 그래프 라플라시안의 스펙트럼에 따라 토큰을 회전시키면 어텐션 메커니즘에 구조적 정보를 효율적으로 주입할 수 있으며, 합성 및 실세계 그래프 학습 태스크에서 성능을 향상시킴을 발견하였다. _Wave-Induced Rotary Encodings_ (WIRE)로 명명된 이 접근법은 흥미로운 이론적 특성을 갖는다: 격자 구조에서 일반 RoPE를 복원하며, 그래프의 유효 저항(effective resistance)에 점근적으로 의존한다. 바이어스 기반 상대적 위치 인코딩과 달리, WIRE는 선형 어텐션과 호환된다.
피부경(dermoscopic) 이미지에서의 자동 피부암 분류는 이질적인 병변 구조, 강한 클래스 내 변동성, 그리고 양성 및 악성 사례 간의 미세한 시각적 차이로 인해 여전히 어려운 과제입니다. 기존 CNN/ViT 파이프라인은 일반적으로 전역(global) 또는 패치(patch) 수준의 특징에 의존하며, 환자 메타데이터를 후기 융합(late fusion)을 통해 결합하는데, 이는 공간적으로 기반을 둔 멀티모달 추론을 제한합니다. 본 논문에서는 병변을 고정된(frozen) CNN 특징으로 표현되는 공간적으로 응집된 슈퍼픽셀(superpixel) 영역들의 그래프로 명시적으로 모델링하는 새로운 영역 기반 그래프 학습 프레임워크를 제안합니다. 세밀한 병변 구성을 포착하기 위해 영역 간 기하학을 에지(edge) 속성으로 인코딩하고, 모든 영역에 연결된 전용 메타데이터 컨텍스트 노드(node)를 도입하여 동일한 관계형 공간 내에서 인구통계학적/임상 변수의 구조화된 통합을 제공합니다. 노드(node) 표현은 에지 인지 그래프 트랜스포머(transformer)와 이어지는 어텐션(attention) 기반 전파를 사용하여 업데이트되며, 양성-악성 분류(classification)를 위한 최종 그래프 수준 임베딩(embedding)이 생성됩니다. 4개의 공개 벤치마크(benchmark)에 대한 실험 결과, 명시적인 영역 수준 관계형 모델링과 그래프 고유의 멀티모달 융합이 최신 성능(state-of-the-art) 대비 일관된 이득을 가져옴을 보여줍니다. 결과적으로, 우리는 CNN 특징이 관계형 노드로 모델링되고 맥락 통합을 통해 개선되어 더 표현력 있고 견고한 분류를 산출하는 새로운 그래프 중심적 관점을 확립했습니다.
비유클리드 그래프 Transformer에서 self-attention의 내적이 구조적 관련성을 반영하도록 communicability를 기반으로 위치 인코딩(positional encoding) 기하를 만드는 CIPE(Communicability-Inspired Positional Encoding)를 제안하고, 그래프 크기에 맞춘 차원 정렬(dimensionality alignment)로 실용 학습을 가능하게 한다. 구조 무시형 Transformer는 7개 벤치마크에서 평균 35.5% 향상됐고, 구조 편향 그래프 Transformer에서도 기존 대표 PE 대비 일관된 개선을 보였다.
단일세포 RNA 시퀀싱(scRNA-seq) 클러스터링에서 희소성·노이즈와 세포 간 구조 정보를 충분히 활용하지 못하는 한계를 해결하기 위해, 유전자 발현과 세포 그래프 구조를 통합한 scGTN(Deep Siamese Graph Transformer Network)을 제안한다. 두 증강 그래프 뷰에 Siamese 그래프 트랜스포머로 최단 경로와 노드 거리를 반영하고 최적 수송(optimal transport) 기반 자기지도 학습으로 클러스터링하며, 여러 벤치마크 scRNA-seq 데이터셋에서 기존 방법보다 우수한 성능을 보였다.
흡수, 분포, 대사, 배설(ADME) 속성의 정확한 예측은 신약 개발에 매우 중요하지만, ADME 종점(endpoints)은 노이즈가 많고 상호 의존적이며 데이터가 부족한 경우가 많아 여전히 어려운 문제로 남아 있습니다. 우리는 화학 특화 자기 지도 학습(self-supervision)과 대조적 상호 정보 기계 학습(contrastive mutual information machine learning, cMIM)을 결합한 분자 그래프 트랜스포머(graph-transformer) 사전학습 프레임워크를 제안합니다. 본 방법은 분자 그래프를 잠재 변수로 인코딩하고 그래프 유래 잠재 코드에서 SMILES 문자열을 재구성하며, 도메인 특화 자기 지도 화학 작업을 통해 대조적 목적 함수(contrastive objective)를 보강합니다. 이러한 작업을 별도로 조정된 손실(loss) 가중치를 가진 보조 정규화기로 취급하는 대신, 재구성, 대조적 판별, 화학 특화 감독을 단일 확률적 잠재 변수 목적 함수 내의 단위 가중치 로그 확률 인자로 공식화합니다. 미세조정(fine-tuning)을 위해, 작업별 다층 퍼셉트론(multilayer perceptron) 헤드를 갖춘 멀티태스크 GNN 리드아웃 아키텍처를 제안하여, 공유 표현 학습을 유지하면서 네거티브 전이(negative transfer)를 완화하고 이질적이며 비선형인 작업 관계 모델링을 개선합니다. Biogen, ExpansionRX, ChEMBL-MT 데이터셋 전반에서, 결과적으로 생성된 Contrastive KERMT 사전학습은 KERMT 기준선(baseline) 대비 각각 7.6%, 9.9%, 9.5% 향상된 성능을 보였습니다(유의미하게 개선된 종점 평균). 사전학습 말뭉치에 ADME 인접 분자를 추가하면 전이 성능이 더욱 향상되며, 대조적 구성 요소는 화학적으로 의미 있는 잠재 이웃을 더욱 명확하게 구분합니다.