PyTorchKR Papers

최신 논문

총 3,895편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2606.29240v1cs.LG

Blackknife: 이종 그래프 신경망에 대한 하드 레이블 쿼리 제한 블랙박스 공격

Blackknife: Hard-Label Query-Limited Black-Box Attacks on Heterogeneous Graph Neural Networks

이종 그래프 신경망(HGNN)의 현실적인 블랙박스 적대적 공격 취약성을 탐구하기 위해, 모델 파라미터·그라디언트·전체 그래프 구조에 접근하지 않고 1홉 로컬 이웃 정보와 소수의 하드 레이블 쿼리만으로 공격하는 프레임워크 Blackknife를 제안한다. Blackknife는 로컬 대리 모델(surrogate model)을 구성하고 투영 경사하강법으로 에지 섭동(perturbation)을 최적화하여 ACM, DBLP, IMDB 벤치마크에서 위상 기반 방어 전략 하에서도 높은 공격 성공률을 달성했다.

arXiv:2606.29200v1cs.LG

BrainRiem: 소스 없는 다기관 뇌 네트워크 진단을 위한 리만 프로토타입 학습

BrainRiem: Riemannian Prototype Learning for Source-Free Cross-Site Brain Network Diagnosis

다기관 fMRI 기반 신경정신과 진단에서 스캐너 이질성으로 인한 도메인 시프트와 임상 개인정보 보호 규정을 동시에 해결하기 위해, BrainRiem은 Log-Euclidean Metric과 Dirichlet Energy 스펙트럼 보정을 활용한 다양체 인식 이중 레벨 최적화로 압축된 리만 뇌 프로토타입을 학습하는 소스 없는 도메인 적응 프레임워크를 제안한다. ABIDE와 REST-meta-MDD 벤치마크에서 기존 소스 없는 방법 및 전통적 도메인 적응 방법을 일관되게 능가하며, 학습된 프로토타입이 신경과학적으로 해석 가능한 연결성 패턴을 보임을 검증하였다.

arXiv:2606.29161v1cs.LG

GLACIER: 질량 스펙트럼 예측을 객체 검출 문제로 재해석하기

GLACIER: Rethinking Mass Spectrum Prediction as an Object Detection Problem

GLACIER는 분자 그래프에서의 단편 검출을 객체 검출(object detection) 문제로 재정의한 단일 단계 트랜스포머 기반 탠덤 질량 스펙트럼(MS/MS) 예측 모델로, 후보 단편 열거 없이 Graphormer 백본과 DETR 방식의 쿼리 기반 브레이크포인트 예측을 통해 단편 생성과 강도 예측을 통합한다. MassSpecGym 데이터셋에서 Top-1 검색 정확도 70.0%(기존 SOTA 64.0%), NIST'20에서 52.5%(기존 33.2%)를 달성하며 기존 2단계 모델 대비 약 8배의 추론 속도 향상을 보였다.

arXiv:2606.28996v1cs.LG

On Surrogate Modeling of Static Response of AM Short-Fiber Thermoplastics Using Graph Neural Networks

단섬유 열가소성(SFT) 복합재는 우수한 강도-중량비, 높은 생산성, 재활용성으로 인해 경량 항공우주 및 자동차 구조물에 점점 더 널리 활용되고 있다. 연속섬유 시스템과 달리, SFT의 기계적 응답은 섬유 방향, 공간적 클러스터링, 제조 유발 다공성 사이의 메조스케일 상호작용에 의해 결정된다. 이러한 특성들은 제조 부품 내에서 상당한 공간적 변동성을 나타내며 강성, 손상 개시, 비선형 변형에 영향을 미친다. 메조스케일 유한요소(FE) 모델이 이러한 불균질성을 해석할 수 있으나, 현실적인 3차원 미세구조에 적용하는 것은 계산 비용 측면에서 실현 불가능하다. 본 연구에서는 적층 제조-압축 성형(AM-CM) SFT의 기계적 거동을 예측하기 위한 데이터 기반 대리 모델 프레임워크를 제안한다. 마이크로 컴퓨터 단층촬영 데이터로부터 재구성된 미세구조를 섬유 상호작용 근방을 나타내는 Voronoi 기반 셀로 이산화하였다. 각 셀은 기지 손상을 포함한 비선형 FE 시뮬레이션을 통해 균질화되었으며, 도출된 응력-변형률 응답으로 미세구조 위상과 이력 의존적 기계 진화를 인코딩하는 하이브리드 그래프 신경망(GNN)-장단기 메모리(LSTM) 아키텍처를 학습시켰다. 제안된 대리 모델은 미지의 미세구조에 대한 강성 및 응력-변형률 거동을 정확히 예측하며, 고충실도 FE 시뮬레이션 대비 $R^2 \approx 0.98$을 달성하면서 계산 비용을 2차 이상 절감한다. 실험적으로 보정된 손상 법칙과 프레임워크를 결합함으로써, 섬유 방향, 클러스터링, 다공성이 집합적으로 국소 유효 강성을 지배함을 입증한다. 본 접근법은 기계적으로 취약한 미세구조 셀을 식별하고 SFT 부품의 디지털 트윈 개발을 가속화하기 위한 물리 정보 기반의 데이터 효율적 경로를 제공한다.

arXiv:2606.28923v1cs.LG

그래프 신경망을 활용한 클라우드 사이버보안 이상 탐지 개선을 향하여

Towards Improved Anomaly Detection for Cloud Cybersecurity via Graph Neural Networks

클라우드 인프라에 대한 의존도 증가로 인해 조직의 클라우드 컴퓨팅 환경에서 보안 위협을 탐지하는 것이 필수적이 되었다. 모든 클라우드 컴퓨팅 이벤트의 로깅은 인시던트 탐지 이후 사후 조사를 가능하게 한다. 휴리스틱 또는 이상 탐지(anomaly detection) 기반의 로그를 활용한 자동화된 위협 탐지는 비교적 정적인 특성으로 인해 높은 오탐률(false positive rate)을 초래할 수 있다. 본 논문에서는 AWS CloudTrail 로그에 그래프 신경망(GNN)을 적용한 자기지도학습(self-supervised learning) 방법의 산업 사례 연구를 제시하여, 분석가 검토를 위한 의심스러운 이벤트를 탐지한다. 모델은 각 이벤트에 대한 이상 점수를 생성하며, 주기적인 재학습 없이 조직 내 변화에 동적으로 적응한다. 5개 조직에 걸친 실험 결과, 제안된 모델은 거의 모든 경우에서 도메인 전문가 규칙 기반 기준선보다 훨씬 적은 알림을 생성하였으며, 기존 방법이 생성하는 수천 건의 알림을 시간당 약 1건으로 줄였다. 이 평가는 플래그가 지정된 이벤트만을 대상으로 하며, 현재 데이터로는 미탐율(false negative)을 추정할 수 없음을 유의해야 한다. 따라서 본 연구의 결과는 완전히 검증된 탐지 시스템이 아닌, 실제 운영 환경의 제약에 대한 통찰을 제공하는 실용적 배포 연구로 해석되어야 한다. 향후 연구로서 이러한 한계점과 해당 접근법을 다른 클라우드 환경으로 확장하기 위한 요건을 논의한다.

arXiv:2606.28911v1cs.LG

MALOQ: 양자 전송을 위한 연산자의 대규모 가속 학습

MALOQ: Massively Accelerated Learning of Operators for Quantum Transport

기계 학습(ML) 연산자 모델은 밀도 범함수 이론(DFT) 해밀토니안/밀도 행렬을 훨씬 낮은 계산 비용으로 예측하도록 학습될 수 있으며, 이를 통해 전자 구조 계산을 기존에는 불가능했던 규모로 확장할 수 있다. 본 논문에서는 MALOQ(Massively Accelerated Learning of Operators for Quantum Transport)를 소개한다. 이는 소수에서 최대 100,000개의 원자로 구성되고, 대규모 기저 집합(basis set)으로 기술되며, 광범위한 원소를 포함하는 시스템에 대한 전자 구조 행렬을 학습하고 예측하기 위해 구축된 애플리케이션이다. 최신 SO(2)-등변(equivariant) 백본 아키텍처를 기반으로, MALOQ는 (i) 고차 해밀토니안 행렬 데이터를 처리하기 위한 커스텀 데이터 처리 커널과 (ii) 원자 그래프의 확장 가능한 에지 단위 분산을 제공한다. 현재 이용 가능한 가장 대규모의 분자 해밀토니안 데이터셋으로 학습된 결과, 분자 단위 분산 프레임워크 대비 에포크당 시간을 30% 이상 단축하며, 임의 크기의 물질 그래프에 대한 추론을 가능하게 한다. Alps 슈퍼컴퓨터에서 3,000~12,000개의 원자에 대해 각각 최대 192개 및 256개의 GPU를 활용하여 확장 가능한 학습과 추론을 실증한다.

arXiv:2606.28459v1cs.LG

scKDGM: 단일세포 RNA-seq 클러스터링을 위한 KAN 기반 동적 그래프 마스크 학습

scKDGM: KAN-guided Dynamic Graph Masked Learning for Single-Cell RNA-seq Clustering

단일세포 RNA 시퀀싱(scRNA-seq) 클러스터링은 세포 유형 식별에 필수적이지만, 고차원성, 희소성, 드롭아웃, 기술적 노이즈가 강건한 발현 표현 및 세포 그래프 구축을 방해한다. 기존의 마스크 오토인코더는 주로 특징 재구성을 위한 발현 복원을 사용하는 반면, 그래프 클러스터링 방법은 일반적으로 고정된 KNN 그래프에 의존하며 복원된 발현을 그래프 최적화에 다시 반영하지 않는다. 우리는 scRNA-seq 클러스터링을 위한 KAN 기반 동적 그래프 마스크 학습 프레임워크인 scKDGM을 제안한다. scKDGM은 세포 정체성을 교란하기 위한 그래프 인식 분포 보존 유전자 마스킹(GDP-Mask), 마스크 뷰 표현 학습을 위한 KAN 기반 TAKGCN 인코더, 동적 그래프 구축을 위한 마스크 기반 발현 복원, 그리고 복원 신호를 위상 업데이트로 전달하는 교차 뷰 대조 학습을 사용한다. ZINB 손실은 과산포와 영 팽창을 모델링한다. 12개의 실제 scRNA-seq 데이터셋에 대한 실험에서 scKDGM은 평균 NMI 및 ARI에서 10개의 베이스라인을 능가한다.

arXiv:2606.30247v1cs.CL

불완전한 그래프 증거 하에서 LLM 추론 그라운딩

Grounding LLM Reasoning under Incomplete Graph Evidence

지식 그래프(knowledge graph)는 대규모 언어 모델(LLM) 추론을 안내할 수 있지만, 시스템이 실제로 접하는 그래프는 완전한 진실의 기록이 아니라 검색되고, 연결되고, 시간적으로 범위가 한정된 불완전한 증거 상태인 경우가 일반적이다. 우리는 이러한 불완전한 그래프 증거 하에서 관측 가능한 LLM 궤적(trajectory)의 그라운딩에 관한 이론적 관점을 개발한다. 증거 상태는 엔티티 앵커(entity anchor), 타입화된 관계 잔차(typed relation residual), 경로 에너지(path energy), 지지 영역(support region)을 유도하며, 언어 모델은 후보 궤적에 대한 사전 분포(prior)를 제공한다. 우리는 개방 세계 불완전성(open-world incompleteness) 하에서, 관측된 상태만을 기반으로 하는 어떠한 하드 규칙도 거짓의 비지지 궤적을 모두 기각하는 동시에 참이지만 관측되지 않은 궤적을 모두 보존할 수 없음을 보인다. 이어서 우리는 소프트 그라운딩을 LLM 사전 분포의 KL 정규화 변형(KL-regularized deformation)으로 특성화한다. 유한한 슬랙(slack)은 비지지적이지만 모순되지 않은 궤적에 대한 지지를 보존하는 반면, 하드 조건화(hard conditioning)는 무한 패널티 한계(infinite-penalty limit)로 나타난다. 이 프레임워크는 또한 증거 섭동(evidence perturbation) 하의 안정성 경계를 도출하고, GraphRAG, KGQA, 그래프 에이전트(graph agent), 제약 디코딩(constrained decoding), 충실한 생성(faithful generation)에 적합한 제약 체제(constraint regime)를 명확히 한다. 제시된 주장은 증거 상대적(evidence-relative)이다: 지식 그래프(KG) 호환성은 사실적 진실이 아닌 선언된 지지(declared support)로 취급된다.

arXiv:2606.30093v1cs.CL

토큰 공기(Co-occurrence) 그래프를 통한 효율적인 검색-증강 생성

Efficient Retrieval-Augmented Generation via Token Co-occurrence Graphs

검색-증강 생성(RAG)은 생성 과정을 외부 지식에 그라운딩함으로써 대규모 언어 모델(LLM)의 환각 현상을 완화한다. 그러나 표준 RAG 방식은 다중 홉(multi-hop) 추론에 어려움을 겪는다. 최근의 그래프 기반 RAG 방법들은 상호 연결된 청크의 검색을 개선하지만, 계산 비용이 높고 오류가 발생하기 쉬운 LLM 기반 추출 파이프라인에 의존하는 경우가 많다. 이러한 문제를 해결하기 위해, 우리는 토큰 공기(co-occurrence) 지식 그래프에 기반한 효율적인 그래프 증강 RAG 프레임워크인 TIGRAG(Token-Induced GraphRAG)를 제안한다. TIGRAG는 슬라이딩 윈도우 공기 통계를 사용하여 토큰 간의 위상적 관계를 직접 모델링함으로써 확장 가능한 그래프 구성을 가능하게 한다. 추론 시에는 그래프 기반 의미 확장과 신경망 재순위화(neural reranking)를 결합하여 다중 홉 추론을 위한 상호 연결된 근거를 검색한다. 구체적으로, 이전에 검색된 컨텍스트에서 추출한 브리징 엔티티(bridging entities)를 이용해 쿼리를 점진적으로 확장하는 반복적 엔티티 기반 검색 전략을 도입한다. 우리는 TIGRAG를 널리 사용되는 세 가지 다중 홉 질의응답(QA) 벤치마크에서 평가하였다. 실험 결과, 우리의 프레임워크는 검색 및 다운스트림 QA 태스크 모두에서 밀집 검색(dense retrieval) 및 그래프 기반 RAG 방법들을 일관되게 능가하면서, 인덱싱 시간, 추론 지연 시간, 프롬프트 풋프린트를 크게 줄이는 것으로 나타났다.

arXiv:2606.30009v1cs.CL

노드-이웃 의미 일관성: TAGs 이상 탐지를 위한 텍스트-위상 정렬

Node-to-Neighborhood Semantic Consistency: Text-Topology Alignment for TAGs Anomaly Detection

텍스트 속성 그래프(TAGs)에서의 그래프 이상 탐지(GAD)는 사기 탐지 및 학술 무결성 검증과 같은 응용에서 매우 중요하다. 기존 접근법은 일반적으로 두 가지 패러다임으로 나뉜다. GNN 기반 방법은 구조적 패턴을 효과적으로 포착하지만 세밀한 텍스트 의미를 파악하는 데 어려움을 겪는다. 대규모 언어 모델(LLM)을 그래프와 통합하는 방법은 의미 이해를 개선하지만 인접 노드 간의 위상적 관계를 완전히 이해하지 못한다. 또한 두 패러다임 모두 텍스트 의미와 그래프 위상적 관계 간의 대응 관계를 간과하여, 의미가 이웃과 불일치하는 노드를 식별하는 능력이 제한된다. 본 논문에서는 TAG 이상 탐지를 노드-이웃 의미 일관성 문제로 형식화하며, 이상은 노드와 이웃 간의 텍스트 의미 불일치 또는 위상적 편차 중 어느 하나에서 발생할 수 있다. 우리는 N2NSC(Node-to-Neighborhood Semantic Consistency)를 제안한다. 이는 두 가지 상보적 융합 경로를 통해 그래프 위상과 텍스트 의미 간의 대응 관계를 포착하는 프레임워크이다. 두 경로는 시너지적으로 작동하여 LLM이 이상 탐지를 위해 텍스트 및 구조적 이웃 정보를 모두 충분히 활용할 수 있도록 한다. 8개의 데이터셋에 걸친 광범위한 실험을 통해 N2NSC가 현재의 최고 성능 방법들을 일관되게 능가함을 입증한다.

arXiv:2606.29067v1cs.CL

ThinkProbe: 정확도를 넘어서 -- 비생성적 사고 그래프를 통한 개방형 LLM 추론 트레이스의 구조적 프로파일링

ThinkProbe: Beyond Accuracy -- Structural Profiling of Open-Ended LLM Reasoning Traces via Non-Generative Thought Graphs

우리는 대규모 언어 모델(LLM) 추론 트레이스의 구조 분석을 위한 프레임워크인 ThinkProbe를 제시한다. ThinkProbe는 각 트레이스를 사고 그래프(Thought Graph)—순환을 포함하는 유향 그래프로, 8가지 노드 유형과 6가지 에지 유형으로 구성됨—로 변환하고, 규칙 기반 분절과 판별적 의미 연결을 결합한 완전 비생성적 파이프라인을 통해 19개 지표로 이루어진 5차원 인지 프로파일(5D-CP: 폭, 깊이, 구조, 메타인지, 효율성)을 도출한다. 200개의 개방형 질문과 10개의 인지 영역에 걸쳐 7개의 네이티브 추론 모델로부터 수집한 4,200개의 트레이스에 ThinkProbe를 적용한 결과, 추론 구조가 안정적인 모델 수준의 속성임이 드러났다. 5개 인지 차원 중 4개에서 모델 간 분산이 영역 간 분산을 최대 4배까지 초과하였으며, 구조(Structure) 차원은 질문 영역에 대한 실질적인 민감도를 보여, 정확도 기반 평가로는 드러나지 않는 질적으로 구별되는 인지 프로파일을 노출하였다.

arXiv:2606.28933v1cs.CL

FinInvest-GTCN: 리스크 인식 투자 의사결정 최적화를 위한 설명 가능한 그래프-시간-인과 모델링

FinInvest-GTCN: Explainable Graph-Temporal-Causal Modeling for Risk-Aware Investment Decision Optimization

벤처 캐피털(VC) 투자 의사결정은 다중 출처 이종 데이터, 비정상 시계열, 그리고 고위험·저데이터 환경에서의 설명 가능한 예측 수요 등 고유한 도전 과제에 직면한다. 이러한 문제를 극복하기 위해 우리는 콘텐츠 추천에서 정량적 리스크-수익 평가로 과제를 재정의한 그래프-시간-인과 네트워크인 FinInvest-GTCN을 제안한다. 이 아키텍처는 투자 생태계의 위상을 포착하는 관계형 그래프 인코더, 장기 의존성과 비정상성을 처리하는 다중 스케일 시간 융합 모듈, 그리고 해석 가능한 인과 귀인(causal attribution)과 함께 리스크 조정 예측을 생성하는 인과 결정 헤드를 결합한다. 핵심 혁신은 메타-인과 적응(MCA) 전략으로, 메타 사전학습에서 도출된 인과적으로 타당한 구조와 업데이트를 정렬함으로써 새로운 데이터 희소 분야에 대한 견고한 미세조정을 가능하게 한다. 독점 VC 데이터셋에 대한 포괄적 실험에서 FinInvest-GTCN은 최첨단 결과를 달성하며, 주요 지표인 리스크 조정 평균 제곱 오차(RA-MSE)를 기준선 3.05에서 2.51로 현저히 낮추고 시뮬레이션 포트폴리오의 누적 수익을 18.7% 향상시켰다. 절제 연구(ablation study)는 각 구성 요소의 핵심적인 역할을 강조하며, 추가 분석은 모델의 안정성, 해석 가능성, 그리고 향상된 적응력을 확인한다. 본 연구는 투자 의사결정 지원을 위한 데이터 기반의 설명 가능한 프레임워크를 개척한다.

arXiv:2606.28916v1cs.CL

다중 테이블 질의응답을 위한 잠재 브리지

Latent Bridges for Multi-Table Question Answering

우리는 테이블 질의응답을 위한 생성자-인코더-브리지 파이프라인인 GRAB을 소개한다. 본 방법은 관계형 데이터를 이종 그래프로 변환하고, 메시지 패싱을 통해 인코딩한 뒤, 쿼리 조건부 잠재 토큰의 소규모 집합을 통해 대규모 언어 모델(LLM)에 신호를 전달한다. 이를 통해 LLM에 평탄화된 텍스트와 함께 컴팩트하고 태스크 관련성 높은 구조적 표현을 제공한다. 핵심적으로, LLM은 범용 추론 능력을 보존하기 위해 완전히 동결 상태를 유지하며, 경량 그래프 인코더와 잠재 브리지(9,100만 파라미터)만을 학습시켜 전체 파이프라인을 효율적으로 훈련할 수 있다. 본 파이프라인은 관계형 질의응답 성능을 크게 향상시키며, 특히 까다로운 다중 테이블 환경에서 가장 큰 성능 향상을 보임으로써, 관계형 심층 학습과 LLM을 연결하는 효율적이고 원칙적인 방법을 제시한다.

arXiv:2606.28379v1cs.IR

LEDGER: 의존성 인식 그래프 검색을 활용한 에이전틱 문서 편집의 스케일링

LEDGER: Scaling Agentic Document Editing with Dependency-aware Graph Retrieval

우리는 에이전틱(agentic) 문서 편집이라는 새로운 컨텍스트 엔지니어링 과제를 해결하기 위해 LEDGER를 소개한다. 이 과제는 길고 구조화된 문서에 대한 국소적 편집을 교차 참조나 의미적 일관성을 깨뜨리지 않고 효율적으로 적용해야 한다는 요구를 수반한다. LEDGER는 계층적 구성, 명시적 참조, 암묵적 의존성, 의미적 관계 등 문서 구조를 명시적으로 모델링하는 경량 의존성 그래프를 구성한다. 각 편집에 대해 그래프 안내 검색(graph-guided retrieval)은 필요한 컨텍스트만을 선택하여, 일관성을 유지하면서도 전체 문서 처리를 피한다. 우리는 다양한 문서 유형과 길이를 포괄하는 1,900개의 테스트 케이스로 구성된 엄선된 벤치마크에서 최신 6개 모델을 대상으로 LEDGER를 평가하였다: LEDGER는 토큰 사용량을 줄이면서 6개 모델 및 테스트 시나리오 전반에 걸쳐 일관성을 56%에서 76%로 향상시켰다. 특히, 낮은 추론 노력(low reasoning effort)을 적용한 LEDGER는 더 적은 토큰을 사용하면서도 높은 추론 노력(high reasoning effort)의 기준선(baseline) 성능에 필적하였으며, 이는 명시적 의존성 표현이 에이전틱 문서 편집에서 비용이 큰 내부 추론을 부분적으로 대체할 수 있음을 보여준다.

arXiv:2502.11491v3cs.CL

온톨로지 기반 역방향 사고로 지식 그래프 질의응답에서 대규모 언어 모델 성능 강화

Ontology-Guided Reverse Thinking Makes Large Language Models Stronger on Knowledge Graph Question Answering

대규모 언어 모델(LLM)은 자연어 처리(NLP)에서 놀라운 성능을 보여왔다. 그러나 지식 그래프 질의응답(KGQA) 태스크에서는 다중 홉 추론이 필요한 질문에 답하는 문제가 여전히 남아 있다. 기존 방법은 엔티티 벡터 매칭에 의존하지만, 질문의 목적은 추상적이어서 특정 엔티티와 매칭하기 어렵다. 그 결과 목적에 이르는 추론 경로를 구성하기 어려워 정보 손실과 중복이 발생한다. 이 문제를 해결하기 위해, 인간의 역방향 사고에서 영감을 받아 목적에서 조건으로 거슬러 올라가며 추론 경로를 구성하는 새로운 프레임워크인 온톨로지 기반 역방향 사고(ORT, Ontology-Guided Reverse Thinking)를 제안한다. ORT는 세 가지 핵심 단계로 동작한다: (1) LLM을 활용해 목적 레이블과 조건 레이블을 추출하고, (2) 지식 그래프 온톨로지를 기반으로 레이블 추론 경로를 구성하며, (3) 레이블 추론 경로를 사용해 지식 검색을 안내한다. WebQSP 및 CWQ 데이터셋에서의 실험 결과, ORT는 최첨단 성능을 달성하고 KGQA에 대한 LLM의 능력을 크게 향상시킨다.

arXiv:2606.30291v1cs.AI

PromptGNN-sim: 텍스트 속성 그래프 학습을 위한 GNN과 LLM의 심층 융합 및 정렬

PromptGNN-sim: Deep Fusion and Alignment of GNN and LLMs for Text-Attributed Graph Learning

텍스트 속성 그래프(Text-Attributed Graph, TAG)는 텍스트 의미론과 그래프 구조를 결합하여 다양한 그래프 학습 과제의 핵심을 이룬다. 그러나 기존의 융합 방법들은 텍스트와 구조를 얕고 단방향적인 파이프라인에서 별개의 입력으로 처리하는 경우가 많아, 모달리티 간 심층적 상호작용이 제한되고 희소 연결성 또는 크로스 그래프 일반화 상황에서 성능이 저하된다. 이러한 문제를 해결하기 위해 우리는 GNN-LLM 협력 학습을 위한 양방향 구조-의미 융합 프레임워크인 PromptGNN-sim을 제안한다. PromptGNN-sim은 구조적 어텐션과 텍스트 유사도를 결합하여 의미론적으로 인식 가능한 이웃 선택을 수행하는 그래프 어텐션 네트워크(Graph Attention Network, GAT)를 활용한다. 선택된 구조적 컨텍스트는 대상 노드 요약, 레이블 카테고리, 유사 이웃의 대표 키워드를 포함하는 구조 인식 프롬프트를 LLM에 생성하는 데 사용된다. 학습 과정에서는 양방향 크로스 모달 대조 학습과 크로스 어텐션을 도입하여 GNN과 LLM 구성 요소를 공동으로 최적화한다. Cora, Pubmed, WikiCS를 포함한 6개의 공개 데이터셋에서 크로스 태스크 전이, 크로스 데이터셋 일반화, 희소 교란 조건 하에 정확도, 일반화 능력, 강건성을 평가하는 실험을 수행하였다. 실험 결과, PromptGNN-sim은 고전적인 GNN, LLM, 최근의 GNN-LLM 융합 방법들을 능가하며, 텍스트 속성 그래프 학습에서 상호작용적 구조-의미 협력의 효과를 입증하였다.

arXiv:2606.29972v1cs.AI

First-Order Temporal Logic Tensor Networks

Most of the existing neuro-symbolic AI methods focus on the scenario of static knowledge where objects do not change according to a temporal dimension. Temporal neuro-symbolic works are still under explored and are mainly developed for time-interval logic or propositional linear temporal logic. There is a lack of models studying linear temporal logics with predicates that deal with objects whose properties and relations change through the time. We present First-Order Temporal Logic Tensor Networks (FOT-LTN) that is an extension of Logic Tensor Networks (LTN) that fills this gap by considering a linear-temporal dimension. In particular, FOT-LTN joins the syntax of First-Order Linear Temporal Logic with the fuzzy (and real-valued) semantics of LTN obtaining a framework that supports both temporal operators and quantifiers and is totally differentiable. A first evaluation regards a temporal knowledge graph completion task on two synthetic datasets showing better performance of FOT-LTN with respect to dedicated (purely neural) methods.

arXiv:2606.29748v1cs.AI

Rethinking Generative Reconstruction Attacks against Graph Neural Network Models

The application of graph data in numerous disciplines raises the need for gathering and analyzing huge volumes of data, some of which is private and sensitive. The non-Euclidean nature of the graph data makes the analysis computationally challenging, leading to the use of Graph Neural Networks (GNNs) in the age of AI. GNNs may inadvertently leak sensitive data they are trained on, which raises serious data security issues, including the model inversion attack. In this study, we analyze GNNs' vulnerabilities by introducing two novel graph inversion (i.e., reconstruction) attacks: graph-label conditioned (GLC) attack and embedding-label conditioned (ELC) attack, utilizing targetmodel predictions and their intermediate representations, respectively. We perform a comprehensive analysis of our introduced privacy attacks and compare them with existing baselines across three benchmark graph datasets (i.e., NCI1, PROTEINS, and AIDS) and four graph distributional/structural metrics (i.e., FGD, EGD, MMD, and GKS). Our work demonstrates that an adversary can use the generator-discriminator technique to reconstruct high-quality graphs in real-world black-box attack scenarios against GNNs. Additionally, we present a variant of our attacks (Ours--) with 50% reduced queries, achieving good or comparable reconstruction attack performance. In addition, we show that GNNs are highly vulnerable to privacy attacks, varying Laplacian noise-scales.

arXiv:2606.29180v1cs.AI

Measuring Graph-to-Graph Semantic Similarity in Knowledge Graphs: An Empirical Evaluation of Knowledge Graph Embeddings

A Knowledge Graph (KG) represents facts as structured triples and is widely used to organize relational knowledge across diverse domains. Just as textual information ranges from words and sentences to complete documents, KG information can be interpreted at multiple levels, from entities, relations, and triples to subgraphs and entire KGs. However, existing KG embedding methods mainly focus on entities, relations, and triples, leaving graph-level semantics largely unaddressed. Conventional graph-level methods, which typically compare graphs based on structural patterns, are also insufficient because structural similarity alone cannot guarantee semantic similarity between KGs. To evaluate how well different methods capture such graph-level semantic information, we study graph-to-graph semantic similarity, which determines whether a pair of KGs represents semantically corresponding underlying information. To obtain reliable ground-truth correspondences, we construct a semantic matching dataset by modifying text documents, extracting KGs from both original and modified documents, and transferring their known correspondences to KG pairs. We compare text-based, structure-based, and KG embedding-based approaches on each dataset. For the KG embedding-based approach, we introduce two scoring functions: \textit{EmbPairSim}, which uses maximal pairwise entity similarity, and \textit{AvgEmbSim}, which uses a frequency-weighted centroid. Experiments on WikiText-2 and CC-News show that \textit{EmbPairSim} achieves up to 5.3 pp higher MRR than Sentence-BERT while using substantially fewer parameters. These results suggest that KGE representations can serve as compact and effective signals for graph-to-graph semantic similarity in KGs. Our code is available at https://github.com/SeungRyeolBaek/KG-to-KG-Semantic-Similarity.

arXiv:2606.28134v1cs.LG

희소 감독을 넘어서: 퓨샷 그래프 사기 탐지를 위한 확산 유도 학습

Beyond Sparse Supervision: Diffusion-Guided Learning for Few-Shot Graph Fraud Detection

그래프 기반 사기 탐지는 대규모 거래 시스템을 보호하는 데 필수적이며, 탐지되지 않은 이상은 상당한 금융 손실과 보안 위험으로 이어질 수 있다. 현실 세계의 사기 그래프는 두 가지 밀접하게 연관된 과제를 제기한다. 하나는 검증된 사기 레이블이 희소하고 정상(benign) 계정 쪽으로 심하게 치우쳐 있는 희소하고 불균형한 감독(sparse and imbalanced supervision)이고, 다른 하나는 공간적 메시지 전달(spatial message passing)이 위장된 이상을 과도하게 평활화(oversmooth)할 수 있고 스펙트럴 필터(spectral filter)가 사기 관련 중·고주파 불규칙성을 억제할 수 있는 표현 희석(representation dilution)이다. 이러한 과제를 해결하기 위해, 우리는 ADC-GNN(Attention-guided Diffusion-Contrastive Graph Neural Network, 어텐션 유도 확산-대조 그래프 신경망)을 제안한다. 이는 퓨샷 그래프 사기 탐지를 위해 확산 유도 특징 증강, 대조 표현 학습, 다중 홉(multi-hop) 스펙트럴 어텐션을 결합한 통합 프레임워크이다. 확산 구성요소는 완전한 위상 생성(topology-generative) 그래프 확산 모델이 아니라 특징 공간 디노이징(denoising) 증강 메커니즘으로 공식화된다. 코사인 스케줄(cosine schedule) 하에서 노이즈가 섞인 노드-특징 뷰를 구성하고, 대조 학습을 통해 섭동(perturbation)에 걸친 노드 표현을 안정화한다. 스펙트럴 어텐션 모듈은 사기 관련 홉 수준(hop-level) 및 관계 수준(relation-level) 단서를 추가로 적응적으로 강조한다. 우리는 ADC-GNN을 주로 세 개의 공개 벤치마크에서 평가하고, 약 60,000건의 레코드를 포함하는 독점(proprietary) 실세계 통신 거래 데이터셋을 비공개 사례 연구(private case study)로 추가 보고한다. 1% 학습 설정에서 ADC-GNN은 공개 벤치마크에서 기존 그래프 사기 베이스라인 및 프로토콜을 일치시킨(protcol-consistent) 네 개의 최근 그래프 이상/사기 베이스라인 대비 일관된 개선을 달성한다. 분할 안정성(split stability), 학습 비율, 오버샘플링(oversampling) 대안, 모듈 수준 절제(ablation), 확산 스케줄, 실행 시간 및 메모리 소비 비교에 대한 추가 분석은 ADC-GNN의 효과적인 작동 영역(effective operating regime)을 추가로 특성화한다.