원문 초록
Most of the existing neuro-symbolic AI methods focus on the scenario of static knowledge where objects do not change according to a temporal dimension. Temporal neuro-symbolic works are still under explored and are mainly developed for time-interval logic or propositional linear temporal logic. There is a lack of models studying linear temporal logics with predicates that deal with objects whose properties and relations change through the time. We present First-Order Temporal Logic Tensor Networks (FOT-LTN) that is an extension of Logic Tensor Networks (LTN) that fills this gap by considering a linear-temporal dimension. In particular, FOT-LTN joins the syntax of First-Order Linear Temporal Logic with the fuzzy (and real-valued) semantics of LTN obtaining a framework that supports both temporal operators and quantifiers and is totally differentiable. A first evaluation regards a temporal knowledge graph completion task on two synthetic datasets showing better performance of FOT-LTN with respect to dedicated (purely neural) methods.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2606.29972v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
Signal2Symbol: 설명 가능한 생리학적 시계열 이상 탐지를 위한 신경-기호적 시간적 추론
Signal2Symbol: Neuro-Symbolic Temporal Reasoning for Explainable Physiological Time-Series Anomaly Detection
심전도(ECG)와 뇌파(EEG)와 같은 생리학적 시계열은 복잡한 시간적 구조, 상당한 측정 변동성, 그리고 투명한 의사결정에 대한 강한 필요를 보인다. 딥 모델은 높은 탐지 성능을 달성할 수 있지만, 어떤 구간이 이상한지, 국소 이상이 시간에 따라 어떻게 연관되는지, 한 탐지가 더 넓은 반복 패턴에 속하는지에 대한 통찰은 종종 제한적이다. 우리는 설명 가능한 생체신호 이상 탐지를 위한 신경-기호적(neuro-symbolic) 프레임워크인 Signal2Symbol을 제안한다. 이 방법은 먼저 학습된 VQ-VAE(Vector Quantized Variational Autoencoder) 코드북 또는 SAX(Symbolic Aggregate approXimation) 베이스라인을 사용해 ECG/EEG 신호를 기호(symbol) 시퀀스로 변환한다. 이어서 bigram enriched token-window 트랜잭션을 구성하고, minimal rare itemset mining에서 도출된 희귀 아이템셋(rare itemset) 증거를 통해 이상을 점수화한다. 탐지된 이상 윈도우는 구간(interval)으로 병합되고 Allen interval algebra로 서로 연관되며, 이를 통해 악화 연쇄(escalation chains), 아티팩트(artifact) 중첩, 채널 간 동기(cross-channel synchrony)와 같은 복합 시간적 설명이 가능해진다. 마지막으로 형식 개념 분석(Formal Concept Analysis, FCA)에 기반한 희귀 시간적 개념 격자(concept lattice)를 도입하며, 이는 공유된 희귀 기호적 증거, Allen 시간적 관계, 채널 컨텍스트, 견고성(robustness) 속성을 기준으로 이상 구간을 묶는다. 결과 Galois 격자는 다수의 국소 탐지를 해석 가능한 시간-기호적(temporal-symbolic) 이상 패밀리로 압축한다. 세 개의 공개 벤치마크에서 평가한다: MIT-BIH Arrhythmia(beat 수준 ECG), PTB-XL(기록 수준 ECG), Bonn EEG 데이터셋(segment 수준 EEG). 가법 잡음(additive noise)과 기준선 변동(baseline-wander) 교란 하에서 견고성을 스트레스 테스트한다. 결과는 시간적 이상 분석에서 신경-기호적 토큰화의 가치를 부각하며, Allen/FCA 추론이 국소 탐지에 대한 간결하고 해석 가능한 요약을 제공함을 보여준다.
COLIEE 2026 Task 1의 ABAI: GraphRAG 강화 메타 학습 기반 다단계 검색과 교차 검증-테스트 격차에 대한 사후 분석
ABAI at COLIEE 2026 Task 1: Multi-Stage Retrieval with GraphRAG-Enhanced Meta-Learning, and a Post-Hoc Study of the Cross-Validation-to-Test Gap
본 논문은 COLIEE 2026 Task 1(판례법 검색)에 제출한 ABAI 시스템과, 해당 시스템의 성능이 기대에 못 미친 이유에 대한 통제된 분석을 제시한다. 이 과제에서는 인용된 구절 자체가 제거되어, 검색기가 의존할 수 있는 어휘적 중첩의 상당 부분이 사라진다. 이에 대응하여 우리의 파이프라인은 독립적으로 학습된 네 단계로 구성된다. 첫째, 인용 문맥 윈도우에 대한 다중 뷰 BM25와 역순위 융합(reciprocal rank fusion), 둘째, 신경망 리랭킹, 셋째, 엔티티 커뮤니티와 그래프 어텐션 네트워크(graph attention network)로부터 얻은 그래프 기반 특징, 넷째, 34개 특징에 대한 LightGBM 메타 학습기이다. 우리의 최고 성능 실행은 공식 테스트 세트에서 F1=0.177을 기록했으며, 이는 교차 검증에서의 0.311에 비해 낮다. 우리는 이 격차의 원인을 재현율(recall) 상한, 시간적 분포 변화, 임계값 보정 오류로 추정했고, 이후 세 가지를 모두 검증했다. 누수가 없는 프로토콜에서 임계값 전이에 따른 손실은 F1 0.007에 불과하고, 결정 품질은 시간순 사분위 전반에서 일정하며, 공식 테스트 질의는 두 개의 독립적인 임베딩 공간에서 학습 질의들 서로 간의 거리보다 학습 매니폴드에서 측정 가능할 만큼 더 멀지 않다. 대신 미스(miss)를 분해해 보면, 한 번도 검색되지 않은 후보와 검색되었으나 컷오프 아래로 순위가 매겨진 후보로 정확히 절반씩 나뉜다. 각 절반에 대한 해결책을 측정한 결과, BM25 길이 정규화 튜닝, 이벤트 트리플(event-triple) 뷰, 전체 콘텐츠 밀집 벡터(dense) 융합은 top-200 재현율을 3~7%p 높였고, 자기 인용 누수를 제거하면 인용 그래프 특징은 8개 시드에 걸쳐 F1을 0.014 향상시켰다. 반면 질의별 컷오프 규칙, 제로샷 리랭커 교체, 날짜 필터는 도움이 되지 않았다. 또한 프로토콜을 바로잡자 결과가 뒤집힌 네 가지 평가 아티팩트(artifact)도 함께 문서화한다.
소프트맥스가 버리는 것: 증거 누적을 위한 질량 인식 어텐션
What Softmax Throws Away: Mass-Aware Attention for Evidence Accumulation
높은 태스크 성능은 모델이 내부 표현에서 예측과 관련된 구조적 정보를 유지하는지 여부를 보여주지 않는다. 예를 들어, 시간 그래프 모델은 높은 future-link AUC를 달성할 수 있지만, 동일한 표현에서 기본 그래프 통계를 복원하는 것은 여전히 어렵다. 우리는 이러한 격차의 한 원인을 표준 어텐션에서 사용하는 가중 평균에서 찾는다. 증거 패턴이 반복되면 분자와 분모가 같은 속도로 증가하므로, 누적된 증거의 양이 다른 입력들이 동일한 집계값을 만들 수 있다. 우리는 표준 L1 정규화를 Lp 계열로 일반화하는 Mass-Aware Attention(MAA)을 제안한다. 반복 상황에서 MAA는 분자와 분모가 서로 다른 속도로 스케일되게 하여, 표현 크기에 기여하는 입력의 유효 개수를 표현 크기에 유지한다. MAA는 추가적인 지도, 파라미터, 은닉 차원, 또는 명시적 개수 특징을 추가하지 않으며, p=1에서 표준 어텐션을 복원한다. 4개의 연속 시간 동적 그래프 모델과 3개의 데이터셋에 걸쳐, MAA는 12개의 모델-데이터셋 셀 중 11개에서 future-link AUC를 개선한다. 동일한 은닉 표현에서의 선형 복원은 평균 4.49% 증가하며, family-wise correction 후 preferential-attachment 복원은 12개 셀 모두에서 개선된다. 또한 marked temporal point process(MTPP), temporal knowledge graph(TKG), 검색-증강 생성(RAG), 시공간 point process(STPP)에서도 일관된 증거를 관찰한다. 정보 접근성과 태스크 유용성은 여전히 구별된다. MTPP에서 NLL은 개선되지만, TKG에서는 랭킹이 대체로 유지되고, RAG의 추가 정보는 진단 헤드를 개선하지 않으며, STPP에서는 하류 LayerNorm이 신호를 지울 수 있다. 이 결과들은 MAA를 표준 어텐션에서 반복 불변성(repetition invariance)을 제어함으로써 예측기 대면 표현의 정보성을 개선하는 일반적인 정규화 원리로 자리매김한다.
제약 인식 그래프 어텐션을 통한 사실적·규범적 산업 지식 통합 기반 공정 계획 추천
Integrating Factual and Normative Industrial Knowledge via Constraint-Aware Graph Attention for Process Plan Recommendation
사실적 관계와 의사결정 제약을 포함한 이종 산업 지식의 통합은 여전히 산업 정보 시스템의 핵심 과제이다. 가공 공정 계획은 재료 특성, 특징 특성, 품질 요구사항을 종합하여 공정을 선택해야 하므로 이 문제를 잘 보여준다. 기존 방법은 주로 유사도 검색이나 분류에 의존하며, 통합된 순위 목표나 표준화된 평가는 없다. 우리는 가공 공정 계획 추천을 지식 그래프 강화 협업 필터링 문제로 공식화하는 PCA-GAT를 제안한다. Bayesian Personalized Ranking이 학습 목표를 제공하고, Recall@K와 NDCG@K가 평가를 정의한다. 지식 그래프는 협업 신호가 희소할 때 의미론적 구조를 제공한다. 네 가지 도메인 제약—재료 호환성, 정밀도 요구사항, 특징 적용 가능성, 공정 순서—을 그래프 전파 과정에서 어텐션 편향으로 도입한다. 유형별 가중치가 각 제약의 중요도를 학습하고, 적응형 게이트가 지역적 맥락을 사용해 그 영향을 조절한다. 115개 부품과 507개 계획을 포함한 실제 항공우주 데이터셋에서 PCA-GAT는 Recall@1 = 0.9087을 달성하고 강한 콜드스타트 견고성을 보이며, 심각한 희소성 하에서 가장 강한 기준선 대비 약 절반 수준의 성능 저하만을 보인다. 소거 연구는 지식 그래프 보강이 필수적이고, 제약이 가치를 더하며, 게이트 없는 제약 주입은 성능을 해칠 수 있음을 보여준다. 학습된 가중치는 재료-공정 호환성이 지배적 요인임을 식별하며, 이는 도메인 전문 지식과 일치한다. 세 개의 공개 벤치마크에서의 결과는 제약이 없을 때 성능 저하가 없음을 보여주며, 제조 분야를 넘어선 일반화를 뒷받침한다. 본 연구는 공학 공정 계획을 위한 표준화된 추천 프로토콜을 수립하고 세 범주에 걸친 일곱 가지 방법을 벤치마킹하여, 지식 표현이 주요 병목임을 보여준다.
MA-DAR: 지속적 시간적 지식 그래프 추론을 위한 다양체 정렬 동적 적응형 라우팅
MA-DAR: Manifold-Aligned Dynamic Adaptive Routing for Continual Temporal Knowledge Graph Reasoning
지속적 시간적 지식 그래프(TKG) 추론은 새로 등장하는 사실을 지속적으로 통합하면서 이전에 습득한 지식을 보존하는 것을 목표로 한다. 재생(replay) 기반 지속 학습(continual learning)은 과거 표현을 재방문함으로써 유망한 성능을 달성해 왔다. 그러나 기존 방법들은 주로 무엇을 재생할지에 초점을 맞추며, 재생된 표현을 현재 표현과 어떻게 통합해야 하는지는 대체로 간과한다. 이러한 직접 통합은 종종 두 가지 중요한 형태의 표현 충돌, 즉 노름 지배(norm domination)와 의미적 흐림(semantic blurring)을 야기하여 결국 지속적 추론 성능을 저하시킨다. 이러한 과제를 해결하기 위해, 우리는 재생 표현 융합을 위한 경량 플러그 앤 플레이(plug-and-play) 프레임워크인 MA-DAR(Manifold-Aligned Dynamic Adaptive Routing)를 제안한다. MA-DAR는 먼저 재생된 표현과 현재 표현을 공유 다양체(shared manifold) 위에 정렬하여 분포 불일치를 완화한다. 그다음 동적 게이팅(gating) 메커니즘을 사용해 차원별 융합 가중치를 학습하고, 융합된 표현에 대한 재생 표현과 현재 표현의 기여도를 적응적으로 결정한다. 또한, 극화(polarization) 정규화(regularizer)는 모호한 게이팅 결정을 억제함으로써 보다 단호한 라우팅 동작을 유도하여, 더 안정적이고 효과적인 지식 통합을 이룬다. 4개의 공개 지속적 TKG 벤치마크에 대한 광범위한 실험 결과, MA-DAR는 다양한 재생 설정에서도 효과를 유지하면서 대표적인 TKG 인코더의 성능을 일관되게 향상시킴을 보여준다. 포괄적인 ablation 연구와 시각화 분석은 표현 충돌을 완화하고 지속적 추론을 개선하는 데 있어 다양체 정렬과 동적 적응형 라우팅의 효과를 추가로 검증한다.
Chronofy: 시간 인식 검색-증강 생성에서 정보 유효성을 위한 시간-논리 감쇠 아키텍처
Chronofy: A Temporal-Logical Decay Architecture for Information Validity in Time-Aware Retrieval-Augmented Generation
검색-증강 생성(RAG) 시스템은 대규모 언어 모델(LLM) 출력을 그라운딩하기 위해 외부 지식을 검색하고 통합한다. 그러나 현재 RAG 아키텍처는 시간적 출처와 관계없이 검색된 모든 사실을 동등하게 유효한 것으로 취급하여, 그럴듯하지만 구식인 사실이 출력을 오염시키는 시간적 환각(temporal hallucination)을 초래한다. 어제의 임상 검사 결과는 실행 가능하지만, 6개월 전의 동일한 검사 결과는 노이즈이다. 우리는 시간적 유효성을 RAG 시스템의 표현, 검색, 추론 층에 직접 내재화하는 시간-논리 감쇠 아키텍처(TLDA)를 구현하는 3층 신경-기호 프레임워크인 Chronofy를 제안한다. 층 1은 Matryoshka 임베딩 내에 전용 시간 부공간을 확보하여 사실의 시점이 표현에서 구조적으로 제거될 수 없도록 한다. 층 2는 그래프 기반 검색에 학습 가능한 지수 감쇠 함수를 통합하며, 여기서 감쇠 계수 $β_j$는 잠재 과정의 평균 회귀(mean-reversion)율의 2배에 대한 근사로서 베이지안 의사결정 이론에 기반한다. 층 3은 Signal Temporal Logic(STL) 견고성(robustness) 함수를 적용하여 LLM 출력 신뢰도가 아닌 검색된 지식의 시간적 유효성을 평가하고, 가능론적 최약 고리(weakest-link) 원칙을 적용하여 추론 사슬에서 가장 많이 감쇠된 증거에 의해 출력 신뢰도를 제한한다. 우리는 시간적 지식 그래프 예측 벤치마크, TimE 시간 QA 벤치마크, 도메인 특화 민감도 분석에서 Chronofy를 평가하였으며, 명시적 시간 감쇠 모델링이 검색 정밀도를 향상시키고 시간적 환각을 줄이며, 시간적 맥락이 불충분할 때 원칙적인 데이터 재획득 트리거를 가능하게 함을 보여준다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.