PyTorchKR Papers

최신 논문

총 3,895편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2606.20955v1cs.LG

빠른 수렴 동적 평균 추정을 위한 게이트 그래프 신경망 접근법

A Gated Graph Neural Network Approach to Fast-Convergent Dynamic Average Estimation

동적 평균 추정(dynamic average estimation)은 다중 에이전트 시스템에서 핵심적인 문제로, 에이전트들이 로컬 정보 교환만을 활용하여 시변 신호를 협력적으로 추정할 수 있게 한다. 전통적인 모델 기반 접근법은 수렴 속도 및 네트워크 토폴로지 변화에 대한 민감성 측면에서 어려움을 겪는 경우가 많다. 본 논문은 완전 분산 방식으로 빠른 수렴의 동적 평균 추정을 달성하기 위해 게이트 그래프 신경망(GGNN, Gated Graph Neural Networks)을 활용한 새로운 학습 기반 솔루션을 제안한다. GGNN의 고유한 구조적 특성을 이용하여, 제안된 방법은 추정 과정을 분산 자기회귀기(distributed autoregressor)로 모델링함으로써 안정성을 유지하면서 빠른 수렴을 보장한다. 학습 시 수렴 보장을 강제하기 위한 정규화 항을 도입하고, 표준 GGNN 대비 정확도를 희생하지 않으면서 통신 오버헤드를 줄이기 위한 인코딩-디코딩 메커니즘을 소개한다. 광범위한 수치 실험을 통해 제안된 접근법이 수렴 속도와 정밀도 모두에서 기존 모델 기반 추정기를 크게 능가함을 입증하며, 동적 평균 추정이 요구되는 다중 에이전트 응용에 유망한 대안임을 보인다.

arXiv:2606.20916v1cs.LG

보강 패널의 전장 구조 응답 예측을 위한 물리 유도 이중 스트림 이질 그래프 신경망

Physics-Guided Dual-Stream Heterogeneous Graph Neural Network for Predicting Full-Field Structural Response of Stiffened Panels

대규모·복잡 구조의 반복적 설계와 최적화를 위해서는 응력, 변위 및 기타 필드의 빠르고 정확한 예측이 필요하다. 유한요소해석(FEA)은 이 작업에 계산 비용이 크다. 기존 신경망 대리 모델은 다양한 위상과 복잡한 경계 조건에서 종종 어려움을 겪는다. 본 연구는 얇은 벽 구조에서 전장 응력 및 변위 예측을 위해 새로운 이중 스트림 이질 그래프 신경망(DS-HGNN)을 제안하며, 보강 패널로 구성된 박스 보에서 이를 시연한다. DS-HGNN은 패널 수준의 이질 그래프 표현에서 동작하며, 에지 유형, 공간 정보, 경계 운동학으로 초기화된 물리 유도 에지 상태를 도입한다. 이 상태들은 종방향 및 횡방향 구조 정보를 분리하면서 스트림 간 교환을 허용하는 이중 스트림 메시지 패싱(message passing)을 통해 갱신된다. 기하 및 하중 효과는 Feature-wise Linear Modulation(FiLM)으로 조건화된 1차원 스펙트럴 합성곱을 통해 통합되며, 물리 필드는 스펙트럴-바이패스(spectral-bypass) 저랭크(low-rank) readout을 사용하여 재구성된다. 해당 모델은 서로 다른 기하, 경계 운동학, 하중 조건, 재료 비선형 응답을 가진 보강 패널 데이터셋에서 평가된다. DS-HGNN은 6개의 벤치마크 이질 그래프 신경망 모델과 비교하여 가장 낮은 응력 및 변위 RMSE를 달성한다. 또한 가장 강력한 벤치마크 모델과 비슷한 정확도를 19%-38% 더 적은 학습 샘플로 달성한다. 표적 평가는 DS-HGNN이 항복(yield) 및 항복 후(post-yield) 응력 특징을 포착함을 추가로 보여준다.

arXiv:2606.20906v1cs.LG

MMGNN: 분자 특성 예측을 위한 다중 수준·다중 색상 그래프 신경망

MMGNN: Multi-level, multi-color graph neural networks for molecular property prediction

분자 메시지 패싱 신경망(molecular message-passing neural network)은 화학적으로 다양한 상호작용을 단일 그래프를 통해 전파하는 방식이 일반적이나, 이는 상호작용별 신호를 혼합하고 장거리 효과를 포착하기 위해 깊은 전파를 요구할 수 있다. 본 논문에서는 분자 그래프를 원자 수준의 해상도를 유지하면서 겹치는 원자 유형 쌍별 서브그래프로 분해하는 계층적 프레임워크인 다중 수준·다중 색상 그래프 신경망(MMGNN)을 소개한다. MMGNN-2D는 공유 결합 연결성으로부터 화학적으로 색상화된 서브그래프를 구성하는 반면, MMGNN-3D는 공간적 근접성으로부터 기하학적으로 색상화된 서브그래프를 구성하고 거리, 각도, 비틀림 기술자(torsional descriptor)로 엣지를 보강한다. 두 변형 모두 공유된 통신 메시지 패싱 백본을 각 서브그래프에 적용하고, 원자 단위 집계(atom-wise aggregation)와 분자 리드아웃(molecular readout)을 통해 결과 표현을 결합한다. MMGNN을 MoleculeNet의 5개 분류(classification) 및 3개 회귀 벤치마크에서 일반적인 스캐폴드 분할(scaffold split)과 5회 독립 실행을 통해 평가하였다. MMGNN-2D는 분류 데이터셋 전반에서 가장 높은 매크로 평균 AUC-ROC 0.838을 달성하였고, ESOL에서 가장 낮은 RMSE 0.803을 기록하였다. MMGNN-3D는 BBBP에서 가장 높은 평균 AUC-ROC 0.956을, FreeSolv에서 가장 낮은 RMSE 1.793을 기록하여 위상적 표현과 기하학적 표현이 상호 보완적인 강점을 가짐을 나타낸다. 구조 분석 및 리브-원-아웃(leave-one-out) 분석을 통해 서브그래프 분해가 학습된 표현 및 원자 유형 쌍 민감도에 미치는 영향을 추가로 규명하였다. 이러한 결과는 겹치는 상호작용별 그래프 분해가 분자 특성 예측을 위한 경쟁력 있는 전략임을 뒷받침한다.

arXiv:2606.20747v1cs.LG

CIExplainer++: 그래프 신경망을 위한 인과적이고 해석 가능한 설명 생성

CIExplainer++: Generating Causal and Interpretable Explanations for Graph Neural Networks

설명 가능한 인공지elligence(XAI)는 모델 출력으로 이어지는 요소를 인간이 이해할 수 있는 방식으로 제시함으로써 블랙박스 모델을 더 신뢰할 수 있게 만드는 것을 목표로 한다. 이는 (i) 출력에 대한 실질적인 인과적 영향을 미치는 구성 요소와 연결을 식별하는 것과 (ii) 이러한 구조를 해석 가능한 표현으로 변환하는 것을 모두 포함한다. 전자에 대해, 우리는 그래프 신경망(GNN) 설명을 위해 인과 추론에 기반한 새로운 교란(perturbation) 기반 방법인 CIExplainer를 제안한다. CIExplainer는 잠재 결과 프레임워크(Potential Outcome Framework)를 사용하여 GNN 예측에 가장 큰 인과 효과를 갖는 부분 그래프(subgraph)를 식별한다. 우리는 다양한 GNN 아키텍처(GCN, GraphSAGE, GAT, GIN)와 데이터셋에서 CIExplainer를 평가하고 비교한다. 부분 그래프 설명과 인간의 해석 가능성 사이를 잇기 위해, 우리는 인과적 부분 그래프를 특징 수준 및 관계적 정보를 모두 포착하는 자연어 설명으로 변환하는 방법인 G2TeXplainer를 추가로 제안한다.

arXiv:2606.22425v1cs.AI

SVGym (SciVerseGym): 결정 탐색에서 강화학습 및 베이지안 최적화를 위한 환경

SVGym (SciVerseGym): An Environment for Reinforcement Learning and Bayesian Optimization in Crystal Discovery

기계학습 원자간 포텐셜은 이제 상호작용적 재료 탐색을 위한 효율적인 원자 수준 평가를 가능하게 하지만, 폐루프(closed-loop) 결정 탐색 방법은 편집, 이완(relaxation), 점수화, 제약, 기록 관리를 위한 맞춤형 파이프라인에 걸쳐 여전히 파편화되어 있다. 우리는 결정 설계를 마르코프 결정 과정으로 규정하는 순차적 결정 탐색을 위한 Gymnasium 호환 환경인 SciVerseGym을 소개한다. 에이전트는 원자 수준 구조를 관측하고, 화학적으로 의미 있는 편집을 적용하며, 구성 가능한 평가기로부터 피드백을 받는다. SciVerseGym은 원소 치환, 격자 섭동, 원자 변위, 공석 생성, 원자 삽입을 포함한 국소 및 전역 행동과 함께, 구성 가능한 화학 공간, 구조 풀, 원자 수준 및 그래프 기반 관측, 사용자 정의 보상, 선택적 이완, 안정성 또는 포논(phonon) 관련 진단을 지원한다. 각 단계는 편집을 적용하고, 기계학습 원자간 포텐셜 또는 ASE 호환 계산기를 사용하여 후보를 평가하며, 표준 (obs, reward, terminated, truncated, info) 튜플을 반환한다. 에이전트 로직을 재료 인프라와 분리함으로써 SciVerseGym은 폐루프 결정 탐색에서 강화학습, 베이지안 최적화, 진화 탐색, 언어 에이전트 워크플로를 위한 개방적이고 재현 가능하며 확장 가능한 테스트베드를 제공한다. 코드는 https://github.com/Bin-Cao/SciVerseGym 에서 이용할 수 있다.

arXiv:2606.20912v1cs.AI

부분 조상 그래프를 이용한 잠재 교란변수 환경에서의 근본 원인 분석

Root Cause Analysis with Latent Confounders using Partial Ancestral Graphs

장애의 원인을 찾는 근본 원인 분석(RCA)은 이상(anomaly)의 근본 원인을 파악하고 복잡한 시스템의 신뢰성을 유지하는 데 필수적이다. 인과 이론은 데이터 기반 RCA를 발전시켜 왔지만, 기존 프레임워크는 인과적 충분성(causal sufficiency)을 가정하여 실세계 환경에서 흔히 존재하는 관측되지 않은 잠재 변수를 고려하지 못한다. 이 공백을 해소하기 위해 PAG-RCA를 제안한다. 이 프레임워크는 시스템 장애를 부분 조상 그래프(PAG) 위의 파라미터화된 개입(parametric interventions)으로 모델링하여, 잠재 변수가 존재하는 상황에서 RCA를 수행한다. PAG 상에서 인과 효과를 정량화하는 표준 인과 식별(causal identification) 알고리즘을 사용하여 장애의 원인을 찾는다. 효과가 식별 가능(identifiable)한 경우, 후보 근본 원인들은 정확한 개입 효과에 기반하여 순위가 매겨진다. 효과가 구조적으로 식별 불가능(structurally unidentifiable)한 경우, 본 프레임워크는(RCA 문헌에서 최초로) 부분 식별(partial identification)을 통합하여 해석적 인과 한계(analytical causal bounds)를 이용해 후보를 평가하고 점수화한다. 잠재 변수와 부분 식별을 동시에 통합함으로써, 본 프레임워크는 데이터 부족 및 잠재 변수 시나리오처럼 기존 방법이 성능이 저하되는 환경에서도 강건한 RCA를 보장한다. 합성 데이터, 마이크로서비스 이상 탐지 벤치마크, 전력망 연쇄 장애에 대한 평가는 PAG-RCA가 최신 데이터 기반 베이스라인을 일관되게 능가함을 보여준다. 데이터 부족 상황에서의 데이터 기반 RCA 성능을 향상시킴으로써, 본 방법론은 부분적으로 관측 가능한 복잡한 네트워크에서의 신뢰할 수 있는 자동 진단을 발전시킨다.

arXiv:2606.22631v1cs.CV

4DVLT: 월드라인 중심 비전-언어 추적을 통한 동적 장면 이해

4DVLT: Dynamic Scene Understanding with Worldline-Centered Vision-Language Tracking

4D 동적 장면 이해는 신원(identity), 메트릭 3D 운동, 동기화된 다중 뷰 2D 투영을 묶는 지속적인 월드라인(worldline)에 언어를 그라운딩(grounding)하는 것을 요구한다. 기존 패러다임은 이 구조의 일부만 포착한다. 대규모 멀티모달 모델은 풍부한 시각적 근거에 대해 추론하지만 메트릭 위상(metric topology)을 거의 보존하지 못하며, 비전-언어 추적은 단편적인 2D 또는 3D 출력 및 국소적 연속(local continuation)에 묶여 있다. 따라서 우리는 완전히 관측된 다중 뷰 비디오에서 지시 조건부(instruction-conditioned) 4D 동적 장면 이해를 위한 월드라인 중심 태스크 4DVLT와 129.4K개의 질문-답변 쌍, 64.7K개의 타깃 개체, 851개의 장면, 9가지 추론 지향 질의 유형을 포함하는 벤치마크 Instruct-4D를 제안한다. 이 설정을 해결하기 위해, 우리는 객체 중심(object-centric) 4D 상태 그래프, 메트릭 유도 라우팅(metric-guided routing), 양방향 디코딩(bidirectional decoding), 운동학적 보정(kinematic calibration)을 통해 지시 조건부 추적을 그래프 조건부 월드라인 추론으로 형식화하는 4DTrack을 제시한다. Instruct-4D에서 4DTrack-Qwen3.5-9B는 62.68 $\mathrm{TGA}_{\mathrm{Top1}}$을 달성하며, 적응된 최고 VLT 기준선을 19.62점 초과한다. 이 결과는 월드라인 중심 모델링이 타깃 그라운딩과 복원된 월드라인 품질 모두를 개선함을 보여준다. 프로젝트 페이지는 https://github.com/mikubaka88/4DVLT 에서 확인할 수 있다.

arXiv:2606.22383v1cs.CV

비전 트랜스포머의 매개변수 효율적 미세조정을 위한 구조적 초간선 적응

Structured Hyperedge Adaptation for Parameter-Efficient Fine-Tuning of Vision Transformers

매개변수 효율적 미세조정(PEFT)은 소수의 매개변수만 갱신하면서 대규모 사전학습 비전 트랜스포머(ViT)를 다운스트림 태스크에 적응시키는 실용적 해법이 되었다. 그러나 기존 어댑터 기반 방법은 각 토큰에 대해 독립적으로 적응을 수행하며, 토큰 정제가 고립된 상태에서 학습되어야 한다는 가정을 암묵적으로 내포한다. 이러한 토큰 단위 공식화는 시각적 장면에서 자연스럽게 나타나는 토큰 간 구조적 관계를 간과하여, 중복된 갱신과 공간적으로 비일관적인 특징 정제로 이어질 수 있다. 본 연구에서는 매개변수 효율적 어댑터의 설계를 재검토하고, 토큰 공간이 아닌 초간선(hyperedge) 공간에서 적응을 수행할 것을 제안한다. 우리는 HyperAdapter를 도입한다. 이는 소프트 토큰 라우팅을 통해 구조적이고 그룹 인식(group-aware) 적응을 가능하게 하는 초간선 그래프(hypergraph) 기반 어댑터 아키텍처이다. HyperAdapter는 프로토타입 기반 할당을 이용해 ViT 토큰 위에 소프트 초간선 그래프를 구성하고, 토큰 특징을 잠재 초간선 표현으로 집계한 뒤, 초간선 수준에서 경량 병목(bottleneck) 적응을 적용하고, 초간선 그래프 incidence 구조를 통해 결과 갱신을 토큰으로 다시 확산(diffuse)한다. 이 설계는 표준 어댑터의 모듈성과 효율성을 유지하면서 PEFT에 명시적인 구조적 귀납적 바이어스를 주입한다. 다양한 시각 벤치마크에 걸친 광범위한 실험은 구조적 초간선 적응이 유사한 매개변수 예산 하에서 강력한 PEFT 베이스라인을 일관되게 능가함을 보여주며, 구조적 추론이 요구되는 태스크에서 특히 두드러진 향상을 보인다. 우리의 결과는 적응 공간의 선택이 ViT에 대한 매개변수 효율적 전이에서 중요하지만 아직 충분히 탐구되지 않은 차원임을 시사한다.

arXiv:2606.18436v2stat.ML

점별(Pointwise) 관측은 무의미한가? 그래프 신경망을 활용한 강수 단기예측을 위한 멀티모달 소거 연구

Pointwise is Pointless? A Multimodal Ablation Study for Precipitation Nowcasting with Graph Neural Networks

강수 단기예측(precipitation nowcasting)에 활용할 수 있는 희소한 점별(sparse point) 관측 데이터가 점점 더 많아지고 있지만, 이것이 조밀한 레이더 필드(radar-field) 예측을 얼마나 개선하는지는 불분명합니다. 우리는 북유럽(Nordic) 레이더 영역에 적용한 멀티모달 그래프 신경망(graph neural network) 단기예측 시스템을 통해 이 질문을 부분적으로 다룹니다. 이 모델은 최대 2시간까지 5분 간격으로 강수율을 예측하며, 레이더 과거 데이터, MEPS 수치 예보(NWP), Netatmo 지표 관측, MSG 위성 채널, 확률적 노이즈, CRPS 기반 앙상블 손실(ensemble losses)의 다양한 조합으로 학습되었습니다. 이 연구는 운용적으로 관련 있는 정보 소스와 학습 목표에 대한 소거 연구(ablation study)로 설계되었습니다. 우리는 레이더 그리드 상, 관측소 위치, 강우 시작 시점에 대한 상호 보완적인 진단(diagnostic)과 오라클(oracle), 변위(displacement), 진폭(amplitude) 점수를 사용하여 레이더 전용, NWP 기반, 관측소 기반, 위성 기반, 노이즈 증강, CRPS 기반 구성을 비교합니다. 결과에 따르면 각 소스는 예측 문제의 서로 다른 부분을 개선합니다. MEPS는 레이더 전용 외삽(extrapolation)을 안정화하고, Netatmo 관측은 지역 관측소 및 강우 시작 진단을 개선하며, 위성 예측 변수는 일부 관측소 수준의 편향을 줄이지만 결정론적으로 사용될 경우 비를 너무 일찍 예측할 수 있습니다. CRPS 기반 구성은 가장 일관된 레이더 그리드 성능 향상을 제공하는 반면, 위성과 CRPS를 결합한 설정은 전반적으로 가장 우수한 오라클(oracle)/DAS 점수를 보여줍니다. 이러한 결과는 점 관측이 단기예측에 정보를 제공하지 않는다는 결론을 뒷받침하지 않지만, 지역적 관측 기술(skill)과 공간적으로 응집된 레이더 필드(radar-field) 기술(skill)이 서로 다른 목표임을 보여줍니다. 실질적인 시사점은 희소 관측이 유용한 지역적 제약 조건을 제공할 수 있지만, 레이더와 유사한 필드에 대한 이점은 학습 손실(loss), 불확실성 표현, 그리고 모델에 관측 지원(support)이 어떻게 인코딩되는지에 달려 있다는 것입니다.

arXiv:2606.20283v1cs.LG

그래프 구조적 분리를 위한 적응형 대조 학습 기반 경계 임베딩 성형

Boundary Embedding Shaping with Adaptive Contrastive Learning for Graph Structural Disentanglement

그래프 신경망(GNNs)은 분류(classification)를 위한 이웃 정보 집계에 탁월하지만, 의미적으로 무관한 이웃으로부터의 거짓 상관관계(spurious correlations)가 노드 임베딩(embedding)을 오염시키는 그래프 구조적 얽힘(structural entanglement)으로 인해 성능이 저하됩니다. 이러한 문제는 임베딩(embedding) 공간 내 클래스(class) 경계 근처에 위치한 노드에서 가장 심각하게 나타나며, 증폭된 구조적 노이즈(noise)는 결정 경계(decision boundary)를 모호하게 만들고 예측을 불안정하게 합니다. 기존의 강건한(robust) GNN 방법론들은 대부분 모든 노드를 균일하게 처리하여 경계 취약성을 간과하고 있습니다. 본 논문에서는 분류(classification) 성능을 향상시키기 위해 경계 영역 얽힘을 주요 병목 현상으로 파악하여 그래프 구조적 분리(structural disentanglement) 문제를 해결하고자 합니다. 이를 위해 결정 경계에서 거짓 구조적 노이즈를 모델 매개변수(parameter)의 최소한의 섭동으로 선택적으로 억제하는 적응형 대조 학습(adaptive contrastive learning) 기반의 GNN 플러그인 모듈인 경계 임베딩 성형(Boundary Embedding Shaping, BES)을 제안합니다. 광범위한 실험을 통해 BES가 경계 식별(discrimination) 능력을 일관되게 개선하며 기존의 최신 방법론들을 능가함을 입증했습니다. 특히, BES는 노드 분류(node classification)에서 GCN의 성능을 평균 3.3% 향상시켰으며(WikiCS 데이터셋에서 최대 5.0%), 링크 예측(link prediction)에서도 우수한 정확도를 달성했습니다.

arXiv:2606.19956v1cs.LG

지도 일반화를 위한 그래프 기반 심층 학습: 건물 윤곽선 단순화 및 집계에 관한 통찰

Towards Graph-Based Deep Learning for Map Generalization: Insights from Building Footprints Simplification and Aggregation

지도 일반화는 지도학의 근본적인 작업 중 하나로, 특히 복잡한 건물 윤곽선의 단순화와 집계에 있어 중요한 과제입니다. 본 연구는 이 두 가지 작업에 그래프 기반 심층 학습을 처음으로 탐색적으로 적용하며, 단순화를 노드(node) 이동 예측으로, 집계를 링크 예측으로 재정의하여 통합된 그래프 학습 프레임워크 내에서 해결합니다. 다중 스케일 건물 데이터셋에서 대표적인 그래프 신경망(neural network) 아키텍처(GCN, GAT, GraphSAGE)를 평가한 결과, GraphSAGE는 링크 예측 정확도에서 상대적인 강점을 보인 반면, 정확한 노드(node) 이동 예측에서는 여전히 해결해야 할 과제가 남아 있음을 확인했습니다. 정량적 성능을 넘어, 집계가 단순화보다 더 큰 복잡성과 도전 과제를 안고 있다는 점을 결과는 강조하며, 이는 현재의 심층 학습 접근 방식으로 지도 일반화에서 상위 수준의 공간 관계를 포착하는 데 있어 어려움이 있음을 시사합니다. 데이터 불균형 및 후처리의 필요성과 같은 한계점이 여전히 존재하지만, 본 연구는 심층 학습 접근 방식을 통한 자동화된 지도 일반화 발전을 위한 귀중한 통찰과 방법론적 방향을 제공합니다.

arXiv:2606.19825v1cs.LG

먼지 발생원 배출 예측을 위한 근접 그래프를 활용한 그래프 신경망(GNN) 향상

Enhancing Graph Neural Networks Using Proximity Graphs for Dust Source Emission Forecasting

먼지 폭풍으로 인한 중대한 환경 및 건강 위협을 완화하기 위해 먼지 발생원 배출의 정확한 예측이 필수적입니다. 기존의 예측 방법들은 이러한 현상의 복잡한 시공간적 역학을 포착하는 데 종종 어려움을 겪습니다. 본 논문에서는 근접 그래프가 그래프 신경망(GNN)이 데이터 포인트 간의 복잡한 공간적 및 시간적 관계를 효과적으로 모델링할 수 있도록 함을 입증합니다. 구체적으로, Delaunay 삼각분할, Gabriel 그래프, k-최근접 이웃(k-Nearest Neighbor) 그래프, Yao 그래프와 같은 근접 그래프를 GNN(GraphSAGE, 그래프 합성곱 네트워크, 그래프 어텐션 네트워크 포함)의 입력으로 사용하여 메시지 전달을 수행합니다. 우리의 접근 방식은 견고하고 정확한 먼지 발생원 예측을 위해 근접 그래프와 GNN을 통합하는 것의 효과를 강조합니다. 근접 그래프 표현의 중요성을 강조하기 위해, 메시지 전달에 무작위 그래프를 사용하는 GNN과 우리의 방법을 비교합니다. 결과에 따르면 근접 그래프를 사용한 GNN은 무작위 그래프를 사용한 GNN보다 현저히 우수한 성능을 보이며, 먼지 발생원 배출 예측에서 장단기 메모리(LSTM) 모델보다 훨씬 뛰어납니다.

arXiv:2606.19378v1cs.LG

페이즈 필드 파괴 시뮬레이션을 위한 하이브리드 GNN-FEM 프레임워크: 일반화 가능한 대리 모델링을 위한 물리 보존 혼합화

A Hybrid GNN-FEM Framework for Phase-Field Fracture Simulation. Physics-Preserving Hybridization for Generalizable Surrogate Modeling

과학적 기계학습(SciML)은 복잡한 물리 시스템의 시뮬레이션을 가속화하는 유망한 접근법으로 부상했으나, 비선형적이고 이력 의존적인 문제에 대해 물리적으로 일관성 있고 일반화 가능한 예측을 달성하는 것은 여전히 핵심 과제로 남아 있다. 본 연구에서는 효율적이고 일반화 가능한 페이즈 필드 파괴 모델링을 위한 하이브리드 GNN-FEM 프레임워크를 제안한다. 페이즈 필드 접근법은 복잡한 균열 진전 시뮬레이션을 위한 강건한 변분 프레임워크를 제공하지만, 증분 유한요소 절차 내에서 연성된 비선형 이력 의존적 시스템을 풀어야 하므로 높은 계산 비용이 실용적 적용을 제한한다. 이 과제를 해결하기 위해, 그래프 신경망(GNN) 대리 모델을 기존의 교번 기법에 통합하여 각 하중 증분에서의 페이즈 필드 갱신을 대체하면서도, 역학적 평형과 경계 조건을 강제하기 위한 FEM 기반 변위 해석기를 유지한다. 증분 해 구조를 보존함으로써, 이 프레임워크는 대리 모델이 전체 해 궤적을 근사할 필요 없이 이력 의존적 파괴 진전과 일관성을 유지한다. 이러한 선택적 대리 전략은 전체 파괴 과정을 학습하기 위한 무차별적 데이터 생성에 의존하기보다, 물리적으로 의미 있고 증분 구조를 갖는 학습 목표의 식별을 강조한다. 제안된 프레임워크는 무차원 특징 설계, 메시 기반 도메인에서의 그래프 기반 공식화, 그리고 지배 페이즈 필드 방정식으로부터 유도된 물리 정보 기반 손실을 통해 다양한 기하학적 형상, 하중 조건, 재료 특성, 이산화 방식에 걸쳐 강한 일반화 성능을 달성한다. 수치 실험을 통해 하이브리드 접근법이 기존 FEM 대비 정확도를 유지하면서 계산 비용을 절감하고, 다양한 문제 설정에서 강건한 예측 성능을 보임을 입증한다.

arXiv:2606.19374v1cs.LG

이차 구조 및 에너지 필터링된 수소 결합 그래프를 활용한 단백질 표현 학습

Protein Representation Learning with Secondary-Structure and Energy-Filtered Hydrogen-Bond Graphs

그래프 기반 표현은 단백질 모델링에서 널리 사용되지만, 많은 기존 접근 방식은 주로 서열 인접성이나 기하학적 근접성에 의존하며, 이는 단백질 폴딩을 지배하는 원칙을 부분적으로만 반영합니다. 대신 단백질은 $α$-나선($α$-helices) 및 $β$-시트($β$-sheets)와 같은 이차 구조 요소를 중심으로 조직된 복잡한 3차원 입체 구조를 취하며, 이는 반복되는 국소 모티프와 안정화하는 수소 결합 상호작용을 인코딩합니다. 본 연구에서는 단백질 표현 학습을 위한 이차 구조 인식 그래프 신경망을 소개합니다. 잔기(residue) 수준의 노드 표현은 이차 구조 할당으로 보강되고, 그래프 에지는 에너지 강도에 의해 필터링된 수소 결합 상호작용으로부터 구성됩니다. 이 설계는 모델이 단백질 안정성과 기능에 핵심적인 국소 구조적 맥락과 장거리 결합(long-range couplings)을 모두 포착할 수 있게 합니다. 우리는 널리 사용되는 단백질 벤치마크에서 제안된 접근 방식을 평가했으며, 기존 그래프 기반 방법에 비해 일관된 개선을 관찰했습니다. 또한, 결과적인 그래프 표현은 학습된 연결성이 확립된 구조적 모티프와 일치하기 때문에 향상된 생물학적 해석 가능성을 제공합니다. 이러한 발견은 이차 구조와 에너지 필터링된 수소 결합 위상(topology)을 통합하는 것이 단백질 표현 학습을 위한 효과적인 귀납적 바이어스(inductive bias)를 제공함을 시사합니다. 코드는 https://github.com/mohamedmohamed2021/SSProNet 에 공개되어 있습니다.

arXiv:2606.19351v1cs.CL

대규모 언어 모델 기반 지식 그래프 추론을 위한 환각 탐지

Detecting Hallucinations for Large Language Model-based Knowledge Graph Reasoning

지식 그래프(KG) 추론은 기존 사실로부터 새로운 지식을 추론하며, 질의응답, 추천, 의사결정 지원에 널리 적용됩니다. 대규모 언어 모델(LLM)의 급속한 발전과 함께, 검색된 KG 정보를 활용하는 LLM 기반 KG 추론 프레임워크가 점차 인기를 얻고 있습니다. 그러나 LLM의 환각 문제는 여전히 중요한 이슈로 남아 있습니다. 관련 KG 지식이 통합되더라도 모델은 여전히 잘못된 출력을 생성할 수 있어, 잘못된 정보와 신뢰할 수 없는 의사결정으로 이어질 수 있습니다. 기존의 환각 탐지 방법들은 LLM 내부 상태에 초점을 맞추거나 검색된 컨텍스트와의 일관성을 검증하지만, 두 방법 모두 KG의 구조적 정보를 간과하여 최적이 아닌 성능을 보입니다. 이러한 격차를 해결하기 위해, 우리는 LLM 기반 지식 그래프 추론 프레임워크를 위한 최초의 환각 탐지 방법인 LUCID를 제안합니다. LUCID는 LLM 어텐션 점수, KG 의미론, 그리고 구조적 정보를 통합적으로 활용합니다. 구체적으로, 어텐션 점수와 의미적 유사도로부터 노드 및 엣지 특징을 추출하고, 그래프 신경망(GNN)을 사용하여 이를 KG 구조와 통합합니다. 또한 평가를 위해 수동으로 주석이 달린 벤치마크 데이터셋을 구축했습니다. 9개의 데이터셋에 대한 실험 결과, LUCID는 15개의 기준선(baseline)과 비교하여 최첨단(SOTA) 성능을 달성함을 보여줍니다.

arXiv:2606.19566v1eess.SY

GDGU: 전기차 충전 네트워크에서의 사이버 공격 지역화를 위한 그래디언트 차이 기반 그래프 언러닝 방법

GDGU: A Gradient Difference-based Graph Unlearning Method for Cyberattack Localization in Electric Vehicle Charging Networks

전기차 충전소(EVCS)는 배전 피더를 사이버 공격에 노출시킬 수 있습니다. 그래프 신경망(GNN)을 포함한 머신러닝 방법은 손상된 버스를 지역화할 수 있지만, 데이터 공유와 모델 학습에는 여전히 중요한 과제가 남아 있습니다. 예를 들어, 개인정보 보호 규정에 따라 EVCS 소유자는 배포된 모델에서 자신의 학습 데이터를 삭제할 권리를 가지지만, 모든 요청마다 처음부터 다시 학습하는 것은 계산적으로 과도한 비용이 듭니다. 이를 해결하기 위해, 우리는 EVCS 사이버 공격 지역화를 위한 그래프 언러닝(GU)을 연구하며, 이를 그래프 수준 다중 레이블 분류 작업에서의 특징 수준 언러닝 문제로 공식화합니다. 구체적으로, 우리는 요청된 삭제 데이터의 영향을 1차 매개변수 보정을 통해 제거하는 그래디언트 차이 기반 그래프 언러닝(GDGU)을 제안합니다. 이 보정은 원본 학습 데이터와 요청된 EVCS 버스의 충전 전력 특징만이 언러닝된 수정된 데이터셋 간의 그래디언트 차이로부터 계산됩니다. 그 후, 지역화 유틸리티를 복원하기 위해 배치 정규화 재보정과 짧은 복구 미세조정 단계가 적용됩니다. 우리는 세 가지 그래프 신경망 백본과 누적 언러닝 시나리오에 걸쳐 IEEE 34-버스, 123-버스 및 8500-노드 배전 네트워크에서 GDGU를 두 가지 2차 GU 기준선과 비교 평가했습니다. GDGU는 지역화 유틸리티 측면에서 가장 강력한 기준선과 대등하며 완전 재학습에 근접하는 망각 충실도를 달성하는 동시에, 처음부터 다시 학습하는 것보다 10배에서 12배 더 빠르게 언러닝하고 2차 GU 기준선보다 훨씬 적은 메모리를 사용합니다.

arXiv:2605.15231v2cs.LG

Mask-Morph Graph U-Net: 대규모 기하학적 변화 하에서 내충격성 필드 예측을 위한 일반화 가능한 메쉬 기반 대리 모델

Mask-Morph Graph U-Net: A Generalisable Mesh-Based Surrogate for Crashworthiness Field Prediction under Large Geometric Variation

비선형 유한 요소 충돌 시뮬레이션은 정확하지만 계산 비용이 많이 들어 반복적인 설계 최적화에서의 사용이 제한된다. 그래프 신경망(GNNs)을 기반으로 하는 머신러닝 대리 모델은 더 빠른 대안을 제공한다. 메시지 전달 GNNs는 메쉬 시뮬레이션에 널리 사용되며, 공유된 노드 및 엣지 업데이트 함수는 변화하는 그래프 구조 전반에서 비교적 일반화 가능하다. 대조적으로, 공유할 수 없는 엣지 특화 집계 레이어는 비선형 관계를 더 정확하게 포착할 수 있지만 일반적으로 고정된 그래프 연결성을 요구하므로 일반화 가능성을 제한한다. 본 논문은 엣지 특화 다운샘플링 및 업샘플링 레이어를 사용하는 계층적 Graph U-Net 아키텍처의 한계를 해결하는 실용적인 접근 방식인 Mask-Morph Graph U-Net (MMGUNet)을 제시한다. 엣지 특화 레이어에는 고정된 축소된 그래프(coarse graph) 연결성이 필요하다. 공간적 대응 관계를 개선하면서 이를 유지하기 위해, 제안된 방법은 교차 그래프 엣지를 구성하기 전에 특징 정렬 무게중심 파라미터화를 사용하여 축소된 그래프 계층을 각 입력 메쉬에 모핑한다. 또한 지도 사전학습 동안 노드 마스킹을 적용하고, 그 뒤에 고매개변수 엣지 특화 레이어가 동결되는 매개변수 효율적 미세조정이 이어진다. 제안된 접근 방식은 평균 유클리드 거리와 최대 침입 백분율 오차를 사용하여 분포 내, 분포 외, 및 교차 구성요소 전이 설정에서 평가된다. 결과에 따르면 축소된 그래프 모핑은 고정된 축소된 그래프 기준선에 비해 테스트 정확도를 향상시키는 반면, 마스킹된 지도 사전학습은 학습-테스트 불일치를 줄이고 전이 중 데이터 효율성을 향상시킨다. 제안된 모델은 외부 기준선과 비교하여 더 낮은 예측 오차를 달성한다. 이러한 결과는 내충격성 설계 탐험을 위한 재사용 가능하고 데이터 효율적인 메쉬 기반 대리 모델링으로 나아가는 실용적인 경로를 보여준다.

arXiv:2606.18566v1cs.CV

저조도 군집 계수를 위한 멀티 모달 하이퍼 그래프 융합

Multi-Modal Hyper-Graph Fusion for Low-Light Crowd Counting

군집 계수는 컴퓨터 비전(computer vision)의 기본적인 과제입니다. 그러나 실제 세계에서의 실용적 중요성에도 불구하고, 저조도 환경에서의 군집 계수는 아직까지 거의 탐구되지 않았습니다. 기존 방법들은 주로 조명이 충분한 장면에 초점을 맞추거나 단일 모달 Red-Green-Blue (RGB) 표현에 의존하는데, 이는 극심한 어둠과 복잡한 비균일 조명 하에서는 종종 신뢰할 수 없게 됩니다. 이 문제를 해결하기 위해, 우리는 두 개의 합성 데이터셋(dataset)인 SHA_Dark와 SHB_Dark, 그리고 실제 세계 벤치마크(benchmark)인 LC-Crowd (Low-light Crowd Dataset)로 구성된 세 가지 새로운 저조도 군집 계수 벤치마크를 구축했습니다. Retinex 기반 물리적 모델링에서 영감을 받아, 저조도 조건에서 내재적 반사율(intrinsic reflectance) 표현을 향상시키기 위해 깊이(depth)와 Canny 에지(edge) 단서를 보완적인 기하학적 및 구조적 사전(priors)으로 도입했습니다. 우리는 RGB 외관, 깊이 기하학, 에지 구조 단서를 통합된 하이퍼 그래프 내의 노드로 공식화하고, 동적 하이퍼에지(hyperedge) 구성 및 메시지 전달(message passing)을 통해 그들의 고차원(high-order) 보완적 관계를 명시적으로 포착하는 멀티 모달 하이퍼 그래프 융합 모듈을 제안합니다. 또한, 밀집 예측(dense prediction)에서 계산을 적응적으로 할당하기 위해, 앵커 인식(anchor-aware) 추정 및 적응형 직사각형 윈도우(window) 모델링을 통해 정보가 풍부한 영역에 계산을 집중시키는 변형 가능한 직사각형 희소 어텐션(Deformable Rectangular Sparse Attention, DRSA) 모듈을 제안합니다. 이러한 설계를 바탕으로, 우리는 견고한 저조도 군집 계수를 위한 통합된 저조도 계수 네트워크(Low-Light Counting Network, LCNet)를 개발했습니다. 세 가지 벤치마크에 대한 광범위한 실험을 통해, 제안된 방법이 기존 최첨단(SOTA) 방법들 대비 최상의 전반적인 성능을 달성함을 입증했습니다. 코드는 보충 자료에 포함되어 있습니다. 데이터셋은 논문 수락 후 공개될 예정입니다.

arXiv:2510.10779v4cs.CV

3D CT 스캔 기반 다중 레이블 이상 분석을 위한 구조화된 스펙트럴 그래프 표현 학습

Structured Spectral Graph Representation Learning for Multi-label Abnormality Analysis from 3D CT Scans

CT 검사 건수가 증가함에 따라, 방사선과 의사들의 임상 업무를 지원하기 위한 장기 분할(organ segmentation), 이상 탐지(abnormality detection), 보고서 생성(report generation)과 같은 자동화 도구에 대한 수요가 높아지고 있습니다. 3D 흉부 CT 스캔의 다중 레이블 분류(multi-label classification)는 체적 데이터에 내재된 복잡한 공간적 관계와 이상 징후의 다양성으로 인해 여전히 중요하면서도 도전적인 문제로 남아 있습니다. 3D 합성곱 신경망(CNN) 기반의 기존 방법들은 장거리 의존성(long-range dependencies)을 포착하는 데 어려움을 겪는 반면, 비전 트랜스포머(Vision Transformers)는 경쟁력 있는 성능을 발휘하기 위해 대규모 도메인 특화 데이터셋에 대한 방대한 사전학습(pre-training)이 필요한 경우가 많습니다. 본 연구에서는 3D CT 볼륨을 구조화된 그래프로 표현하는 새로운 그래프 기반 프레임워크를 도입하여 2.5D 대안을 제안합니다. 여기서 축 방향(axial) 슬라이스 삼중항은 스펙트럴 그래프 합성곱(spectral graph convolution)을 통해 처리되는 노드 역할을 하며, 이를 통해 모델은 임상 배포에 적합한 수준의 복잡도를 유지하면서 슬라이스 간 의존성(inter-slice dependencies)에 대한 추론을 수행할 수 있습니다. 독립된 기관의 3개 데이터셋에서 학습 및 평가된 본 방법은 강력한 데이터셋 간 일반화(cross-dataset generalization) 성능을 달성했으며, 최첨단 비전 인코더(state-of-the-art visual encoders)와 비교하여 경쟁력 있는 성능을 보여주었습니다. 또한, 다양한 집계 전략(aggregation strategies), 에지 가중치 방식(edge-weighting schemes), 그래프 연결 패턴(graph connectivity patterns)의 영향을 평가하기 위해 포괄적인 소거 연구(ablation studies)를 수행했습니다. 더불어, 자동화된 방사선학 보고서 생성(automated radiology report generation) 및 복부 CT 데이터(abdominal CT data)에 대한 전이 실험(transfer experiments)을 통해 제안하는 접근 방식의 광범위한 적용 가능성을 입증했습니다.

arXiv:2606.19303v1cs.LG

P-K-GCN: 딥 시공간 초해상도를 위한 물리 기반 증강 Koopman 향상 그래프 합성곱 네트워크

P-K-GCN: Physics-augmented Koopman-enhanced Graph Convolutional Network for Deep Spatiotemporal Super-resolution

시공간 역학의 고충실도 시뮬레이션은 계산 비용이 과도하여, 거친 입도의 입력으로부터 고해상도 데이터를 재구성할 수 있는 효율적인 초해상도 기술이 필요합니다. 전통적인 데이터 기반 방법은 종종 물리적 제약이 부족하며, 단순한 물리 정보 기반 학습은 불규칙한 공간 기하학적 구조와 복잡하게 진화하는 시간적 역학을 다루는 데 어려움을 겪습니다. 이러한 문제를 해결하기 위해, 본 연구에서는 불규칙한 기하학적 구조에서의 시공간 초해상도를 위한 물리 기반 증강 Koopman 향상 그래프 합성곱 네트워크(P-K-GCN)를 제안합니다. 구체적으로, 거친 그래프(coarse graph)로부터 공간 의존성을 직접 추출하도록 연속적인 스플라인 기반 GCN을 먼저 설계하고, 시간적 진행이 선형화되는 압축된 잠재 공간으로 비선형 역학을 사영하기 위해 Koopman 연산자 이론을 통합했습니다. 둘째, 예측 충실도와 견고성을 높이기 위해 데이터 기반 재구성이 물리 법칙을 준수하도록 강제하는 물리 기반 손실(loss)을 통해 최적화 목적함수를 증강했습니다. 마지막으로, 엄밀한 이론적 분석을 제공하여 물리 증강과 Koopman 정규화(regularization)가 Rademacher 복잡도를 감소시키고 일반화 경계를 강화함으로써 수학적으로 초해상도 오차의 감소를 보장함을 입증했습니다. 본 프레임워크는 희소한 저해상도 측정값으로부터 3D 심장 기하학적 구조 전반에 걸쳐 공간적으로 고해상도인 심장 전기 역학을 재구성하는 작업에서 평가되었습니다. 수치 실험 결과, 제안하는 방법이 기준선(baseline) 모델 대비 우수한 정확도를 달성함을 확인했습니다.