TopoBrick: 제로샷 건물 IoT 예측을 위한 외생 변수의 에이전틱 토폴로지 샘플링
TopoBrick: Agentic Topology Sampling of Exogenous Variables for Zero-Shot Building IoT Forecasting
한국어 초록
건물 센서는 물리적 토폴로지, 공간적 계층 구조, 운영 컨텍스트에 내재되어 있음에도 불구하고, 기존 예측기들은 이를 독립적인 시계열로 취급하거나 고정된 공변량 집합에 의존하는 경우가 많다. 우리는 제로샷 건물 IoT(사물인터넷) 예측을 위한 학습-프리(training-free) 프레임워크인 TopoBrick을 제안한다. TopoBrick은 건물 지식 그래프를 활용하여 컴팩트한 구조적 스켈레톤을 구성하고, 에이전틱(agentic) 토폴로지 샘플러를 통해 타깃 특화 외생 변수를 선택한다. 선택된 변수들은 배포 시점 가용성에 따라 정리되며, 과거에 알려진 센서 상태와 미래에 알려진 캘린더, 스케줄, 기상 외생 변수를 분리한다. 세 개의 실제 건물에 대한 실험에서 TopoBrick은 강력한 제로샷 파운데이션 모델 기반 베이스라인을 능가하며, 완전히 학습된 건물 특화 모델과도 경쟁력 있는 성능을 유지한다. 절제 실험(ablation)을 통해 토폴로지 인식 샘플링이 물리적으로 결합된 HVAC 및 기상 기반 감지 변수에서 특히 랜덤, 온톨로지 단독, 또는 고정 홉(fixed-hop) 선택 방식보다 더 신뢰성 높음을 확인한다.
원문 초록
Building sensors are embedded in physical topology, spatial hierarchy, and operational context, yet existing forecasters often treat them as isolated time series or rely on fixed covariate sets. We present TopoBrick, a training-free framework for zero-shot building IoT (Internet-of-Things) forecasting. TopoBrick uses building knowledge graphs to construct a compact structural skeleton and employs an agentic topology sampler to select target-specific exogenous variables. The selected variables are organized by deployment-time availability, separating past-known sensor states from future-known calendar, schedule, and meteorological exogenous variables. Across three real-world buildings, TopoBrick outperforms strong zero-shot foundation-model baselines and remains competitive with fully trained building-specific models. Ablations show that topology-aware sampling is more reliable than random, ontology-only, or fixed-hop selection, especially for physically coupled HVAC and weather-driven sensing variables.
요약
TopoBrick은 건물 지식 그래프(Brick Schema)에서 에이전틱 토폴로지 샘플러를 활용해 대상 센서에 특화된 외생 변수(exogenous variable)를 선택하는 학습 불필요(training-free) 제로샷 건물 IoT 예측 프레임워크로, 3개의 실제 건물 실험에서 제로샷 파운데이션 모델 기반 베이스라인을 능가하고 건물별 완전 학습 모델과도 경쟁력 있는 성능을 달성했다.
제출 이력
확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.
- arXiv:2607.06349v2제출 시각 미확인
- arXiv:2607.06349v1제출 시각 미확인
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
공변량 기반 시계열 파운데이션 모델에서의 캘린더 특성 인코딩에 관하여
On the Encoding of Calendar Features in Covariate-Informed Time Series Foundation Models
시계열 파운데이션 모델(TSFM)은 점점 더 공변량 지원을 제공하고 있으며, 캘린더 정보는 모든 시점에서 이용 가능하다는 점에서 실제로 가장 흔한 유형의 범주형 공변량이다. 그러나 이러한 특성이 어떻게 인코딩되는지는 사전학습된 모델이 추론 시점에 남겨둔 몇 가지 설계 선택 중 하나임에도 불구하고, 연구 대상이 아니라 구현상의 세부사항으로 취급되는 경우가 많다. 본 연구에서는 정보가 모델에 전달되는 방식이 TSFM의 예측 정확도에 상당한 영향을 미친다는 것을 보인다. 이를 위해 우리는 세 가지 전통적인 타겟 비의존적(target-agnostic) 표현(순서형, 원-핫, 주기형)과 네 가지 타겟 인코딩을 포함한 일곱 가지 캘린더 인코딩을, 여러 도메인의 9개 데이터셋에 대해 네 가지 최신 TSFM을 대상으로 제로샷 롤링 평가에서 체계적으로 비교한다. 이 9개 데이터셋은 주말과 공휴일과 같은 사회적 활동의 영향을 받으므로, 캘린더 정보가 예측에 특히 중요하다. 우리는 인코딩 선택이 모든 모델에서 예측 정확도에 영향을 미치며, 단일 모델 내에서 비공휴일에는 최대 9.9%, 공휴일에는 최대 83%의 MASE 차이가 발생함을 확인했다. 효과와 활용도는 모델 간에 상당히 다르다. 개선은 주로 공휴일 주변에 집중되는데, 이는 캘린더 정보가 타겟 이력(target history)으로부터는 얻을 수 없는 신호를 제공하기 때문이며, 일부 모델-인코딩 조합은 비공휴일 예측도 개선시킨다. SHAP 기반 기여도 분석은 자기회귀 성분에 대한 공변량의 기여를 규명하고, 일부 모델-인코딩 조합이 성능을 저하시키는 이유를 설명한다. 우리의 연구 결과는 공변량 기반 TSFM을 위한 현재의 벤치마크가 고정된 인코딩 전략을 강제함으로써 모델 비교를 왜곡할 수 있음을 시사한다.
지식 그래프 기반 멀티태스크 사전학습을 통한 사전학습 언어 모델의 법률 추론 능력 향상
Enhancing Legal Reasoning in Pre-trained Language Models via Knowledge Graph-Guided Multi-Task Pre-training
법률 언어 이해는 반정형 규제 문서에 대한 추론을 요구하지만, 표준 사전학습(pre-training) 목표는 이러한 구조적 역량을 명시적으로 겨냥하지 않습니다. 현재의 법률 언어 모델은 마스크 언어 모델링에만 의존하기 때문에, 법령 텍스트를 단순한 평면 토큰(token) 시퀀스로 취급하고 그 이면에 있는 계층적 제약 조건을 무시합니다. 이러한 격차를 해소하기 위해 본 연구에서는 독일 도로교통법(StVO)을 대상으로 한 멀티태스크 사전학습 방식을 제시합니다. 우리의 접근법은 다음 문장 예측(NSP), 지식 그래프(KG) 기반 클러스터링(CLU), 그리고 지식 그래프 인식 단락 분류(CLS)라는 세 가지 상호보완적인 목표를 결합합니다. 이 접근법은 구조화된 법률 지식을 모델 가중치에 직접 명시적으로 인코딩합니다. 이러한 인코딩을 통해 추론(inference) 시점에 제로샷(zero-shot) 법률 추론이 가능해지며 이산적인 그래프 순회의 필요성을 없앱니다. 우리는 9개의 트랜스포머(Transformer) 기반 인코더와 324회의 실험적 실행을 통해 제안 방식을 평가합니다. 합성 StVO 질의응답에서 본 연구의 모델은 베이스라인 대비 10.3%에서 155.0% 사이의 일관된 상대적 성능 향상을 보여줍니다. 나아가 기존에 확립된 LexGLUE 베이스라인(Chalkidis et al., 2022)과 비교하여 7개 법률 벤치마크 중 4개에서 이전 결과를 개선합니다. 또한 오스트리아 운전 규정에 대해서도 3.4%에서 15.8% 사이의 일관된 제로샷 전이 이득을 달성합니다. 이러한 실험 결과는 우리의 학습(training) 방식이 초기 학습 법률 도메인을 넘어 성공적으로 일반화됨을 나타냅니다.
중기 리드 타임의 전 지구 일별 화재 복사 강도 예측을 위한 그래프 신경망
A Graph Neural Network for Global Daily Fire Radiative Power Prediction at Medium-Range Lead Times
수일 전 생체량 연소(biomass-burning) 활동을 숙련되게 예측하는 것은 대기질 예보 및 에어로졸 예측에 중요합니다. 본 연구는 두 가지 운영상의 제약 조건에서 출발합니다. 첫째, NOAA의 GEFS-Aerosols를 초기화하는 데 사용되는 GBBEPx 위성 화재 복사 강도(FRP, Fire Radiative Power) 산출물은 약 1.5일의 지연 시간(latency)을 두고 제공되므로, 각 예보 주기는 가장 최근에 사용 가능하지만 이미 구식이 된 화재 관측치에 의존합니다. 둘째, 이러한 화재 입력값은 후속 5일간의 운영 예보 기간(또는 GSL 실험 시스템에서는 7일간) 내내 고정되어 유지되며, 사실상 화재 활동의 변화가 없다고 가정합니다. 본 연구에서는 가장 최근에 가용한 관측치를 바탕으로 1~7일 후의 전 지구 FRP를 예측하는 데이터 기반 모델을 개발합니다. 이 모델은 재분석 기상 자료, 토지 피복 및 식생 정보, 최근 화재 이력, 그리고 학습 목표로서의 GBBEPx FRP를 활용하는 시공간 그래프 신경망(GNN)을 적용합니다. 2020~2022년 데이터로 학습되었으며 2023~2024년 데이터로 평가되었습니다. 모델은 전 지구적 계절 주기를 재현하며 지속성(persistence) 기준선보다 크게 우수한 성능을 보입니다. 0.1$^\circ$ 해상도에서 평균 제곱 오차(MSE)는 2023년 기준으로 1일 리드 타임에서 32%, 7일 리드 타임에서 43% 감소했고, 2024년에는 각각 24%와 40% 감소했습니다. 1$^\circ$ 해상도에서 임계 성공 지수(CSI)는 0.32에서 0.60 범위를 나타냅니다. 탐지 성능은 리드 타임에 따라 완만하게만 감소하는 반면, 강도 예측 성능은 더 빠르게 저하됩니다. 대형 화재는 안정적으로 탐지되지만, 그 복사 강도는 체계적으로 과소평가됩니다. 이러한 결과는 며칠 앞선 화재 활동의 유용한 예측 가능성을 보여주며, 예측된 FRP가 현업 에어로졸 예보를 지원하기 전에 해결해야 할 주요 과제로 강도 보정과 소규모 화재 위치 파악을 규명합니다.
지역난방 네트워크의 제로샷 열부하 예측을 위한 TabPFN-TS 및 Chronos-2의 체계적 평가
Systematic Evaluation of TabPFN-TS and Chronos-2 for Zero-Shot Heat Load Forecasting in District Heating Networks
지역난방 에너지 허브는 효율적인 운영 스케줄링을 위해 신뢰할 수 있는 열부하 예측을 필요로 합니다. 과거 데이터로 학습(training)된 예측 모델(model)은 네트워크가 발전함에 따라 재학습이 필요할 수 있습니다. 따라서 제로샷(zero-shot) 시계열 파운데이션 모델과 문맥 내 예측(in-context forecasting)은 유망한 대안을 제시합니다. 즉, 반복적인 재학습 대신 최근 관측값으로부터 추론(inference) 시점에 적응할 수 있습니다. 본 연구는 독일의 두 지역난방 네트워크에서 확률적 열부하 예측을 위해 TabPFN-TS와 Chronos-2를 체계적으로 평가하고, 이를 학습된 베이스라인들과 비교합니다. 기본 모델이 시계열 데이터가 아닌 합성 표 형식(tabular) 데이터만으로 사전학습(pre-training)된 TabPFN-TS가 복잡한 지역난방 동역학을 포착할 수 있는지 평가합니다. 선정된 운영 주간을 대상으로 공변량 선택, 컨텍스트 길이, 시간 해상도, 예측 구간(forecast horizon)을 분석하고, 선정된 구성을 1년 전체에 걸쳐 평가하며, 네트워크 간 전이(cross-network transfer)를 평가합니다. 주요 벤치마크(benchmark)는 완벽한 기상 예보를 가정하며, 별도의 민감도 분석에서는 사후적 기상 예측을 사용합니다. 12주 롤링 컨텍스트와 외기 온도를 활용한 1시간 단위 24시간 예측이 간결한 구성을 제공하며, 더 긴 컨텍스트 윈도우(context window)가 정확도를 향상시키지는 않습니다. 연간 전체 벤치마크에서 두 시계열 파운데이션 모델(TSFM) 모두 결정론적 정확도에서 학습된 모든 베이스라인을 능가합니다. Chronos-2가 가장 우수한 결정론적 점수를 달성하고 TabPFN-TS가 그 뒤를 바짝 따릅니다. 주요 데이터셋(dataset)에서 두 모델의 CVRMSE 값은 각각 12.48%와 13.07%입니다. Chronos-2는 두 네트워크 모두에서 더 낮은 연속 순위 확률 점수(CRPS)를 달성하며, TabPFN-TS 역시 근접한 성능을 유지합니다. TSFM 기반 다중 해상도 잔차 수정 예측기(Multi-Resolution Residual-Correction Forecaster)는 1시간 단위 기본 예측과 단기 고해상도 수정을 결합합니다. 직접적인 고해상도 예측과 비교했을 때, 이는 12시간 기간 동안의 총 열 수요 및 기록된 예측 시간 전반에서 오차를 전반적으로 줄입니다.
시공간 예측 벤치마크 데이터셋 및 모델에 대한 비판적 감사
A Critical Audit of Spatiotemporal Forecasting Benchmark Datasets and Models
그래프 신경망(GNN)은 시공간 예측(spatiotemporal forecasting)에 일상적으로 활용되고 있으나, 널리 사용되는 벤치마크 데이터셋 전반에서 일관되지 않은 성능을 보입니다. 본 연구에서는 벤치마크의 품질과 이로부터 도출된 결론의 강건성(robustness)을 평가하기 위해 데이터셋 특성과 기준선 모델에 대한 감사를 수행합니다. 고전 통계 도구를 활용하여 벤치마크 내 시공간 시차 의존성(spatiotemporal lagged dependencies)을 특성화하고, 시간 차분(temporal differencing)이 이러한 관계를 어떻게 변화시키며 모델 순위에 어떠한 영향을 미치는지 조사합니다. 이를 바탕으로 시간 선형 기준선을 재평가한 결과, 여러 벤치마크에서 GNN의 겉보기 성능 향상이 크게 감소했으며 다른 벤치마크에서는 GNN을 능가하기도 했습니다. GNN이 선형적인 노드별 신호를 추출하는 데 어려움을 겪는다는 점에 착안하여, 자기회귀 잔차(autoregressive residuals)를 공급했을 때 특히 비교통(non-traffic) 벤치마크에서 GNN의 성능이 향상됨을 확인했습니다. 마지막으로 통제된 합성 실험을 통해 GNN이 시간적 역학(temporal dynamics)과 공간 그래프 상호작용의 이질성에 민감하다는 점을 밝혔습니다. 종합적으로 본 연구 결과는 기준선 설정, 데이터 전처리, 시스템 이질성이 벤치마크 순위에서 도출되는 해석을 좌우함을 입증하며, 향후 GNN의 설계와 강건한 평가를 위한 통찰을 제공합니다.
GLASS: 전이 가능한 그래프 수준 이상치 탐지를 위한 구면 점수화 기반 그래프-언어 정렬
GLASS: Graph-Language Alignment with Spherical Scoring for Transferable Graph-Level Anomaly Detection
본 논문에서는 단위 초구(unit hypersphere) 상의 그래프-언어 정렬을 통해 강력한 도메인 간 전이 가능성(cross-domain transferability)을 달성하는 그래프 수준 이상치 탐지(GLAD) 프레임워크인 GLASS를 소개합니다. GLASS는 다중 슬라이스 소프트 코사인 목적 함수(multi-slice soft cosine objective)를 통해 구조 인지 그래프 인코더와 지시 인지(instruction-aware) 텍스트 임베딩을 정렬하여 통합된 표현 공간을 구축합니다. 본 프레임워크는 국소적, 전역적, 의미론적 그래프 속성을 압축된 그래프 기술자 프롬프트(GraphDP)로 직렬화하여 도메인에 구애받지 않는 이상치 점수화를 가능하게 하는 텍스트 가교를 만듭니다. 마트료시카 표현 슬라이스(Matryoshka representation slices)를 통해 다중 스케일 일관성을 강제함으로써, 모델은 다양한 입도 수준에서 이상 편차를 포착합니다. 우리는 이상치 탐지를 정렬된 초구 상에서의 밀도 추정 문제로 정식화하고, 그래프 및 텍스트 임베딩 공간 모두에서 폰 미제스-피셔(von Mises-Fisher) 커널 밀도 추정기를 인스턴스화하는 구면 멀티모달 점수화(SMS)를 도입합니다. 이러한 확률론적 정식화는 고밀집 극한(high-concentration limit)에서 각도 기반 1-최근접 이웃 점수화를 복원하고, 실용적인 평균 k-최근접 이웃 점수 계산기에 이론적 동기를 부여하며, 구조적 및 의미론적 이상 신호의 원칙적인 융합을 제공합니다. 공유된 텍스트 임베딩 공간은 도메인 간 가교 역할도 수행합니다. 타깃 도메인 학습 데이터 없이도 타깃 도메인의 GraphDP를 인코딩하여 제로샷(zero-shot) 이상치 탐지를 수행하며, 소수의 정상 예시만으로 참조 세트 보정(reference-set calibration)을 통한 퓨샷(few-shot) 적응을 수행합니다. 프라이버시에 민감한 배포 환경을 위해, 우리는 프라이빗 타깃 참조와 무관하게 인코더를 고정한 상태로 유지하면서 그래프 레코드 차분 프라이버시(differential privacy)를 제공하는 유계 결합 그래프-텍스트 커널 요약으로 참조 세트 보정을 확장합니다. 12개의 벤치마크와 3개의 메타 도메인에 걸친 실험에서, GLASS는 최신 고급 GLAD 베이스라인들과 비교해 최고의 평균 AUROC 및 순위를 달성하며 효과적인 도메인 간 전이를 가능하게 합니다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.