Non-intrusive Load Monitoring based on Self-supervised Learning
원문 초록
Deep learning models for non-intrusive load monitoring (NILM) tend to require a large amount of labeled data for training. However, it is difficult to generalize the trained models to unseen sites due to different load characteristics and operating patterns of appliances between data sets. For addressing such problems, self-supervised learning (SSL) is proposed in this paper, where labeled appliance-level data from the target data set or house is not required. Initially, only the aggregate power readings from target data set are required to pre-train a general network via a self-supervised pretext task to map aggregate power sequences to derived representatives. Then, supervised downstream tasks are carried out for each appliance category to fine-tune the pre-trained network, where the features learned in the pretext task are transferred. Utilizing labeled source data sets enables the downstream tasks to learn how each load is disaggregated, by mapping the aggregate to labels. Finally, the fine-tuned network is applied to load disaggregation for the target sites. For validation, multiple experimental cases are designed based on three publicly accessible REDD, UK-DALE, and REFIT data sets. Besides, state-of-the-art neural networks are employed to perform NILM task in the experiments. Based on the NILM results in various cases, SSL generally outperforms zero-shot learning in improving load disaggregation performance without any sub-metering data from the target data sets.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
STATERA: 동결된 시간 튜브릿을 활용한 제로샷 Sim-to-Real 기구학 기반 숨겨진 질량 추정
STATERA: Hidden Mass Estimation via Zero-Shot Sim-to-Real Kinematics using Frozen Temporal Tubelets
프레임 수준의 외형을 위해 사전학습(pre-training)된 비전 모델들은 종종 움직임으로부터 숨겨진 물리적 특성을 추론하는 데 어려움을 겪습니다. 본 연구에서는 자기 가림(self-occlusion)으로 인해 표면 단서와 포인트 트래킹의 신뢰성이 떨어지는 짧은 단안(monocular) 비디오로부터 불투명하고 비대칭인 강체의 질량 중심(CoM) 위치를 파악하는 문제를 다룹니다. 우리는 대부분 동결된 가중치와 경량 시간 튜브릿 믹서(temporal tubelet mixer)를 갖춘 사전학습 비디오 백본(V-JEPA)을 활용하여 프레임별 CoM 히트맵과 궤적을 예측하는 STATERA를 제안합니다. 이 태스크를 지원하기 위해 5만 개의 MuJoCo 궤적과 물리적으로 보정된 실제 CoM 정답(ground truth)이 포함된 63개 시퀀스의 실제 환경 테스트 세트로 구성된 HiddenMass 벤치마크를 도입합니다. 시뮬레이션에서 STATERA-50K-Sigma는 정규화된 CoM 오차를 41.7%(DINOv2)에서 25.2%로 개선합니다. 제로샷(zero-shot) sim-to-real 전이에서 우리는 지도 방식의 근본적인 트레이드오프를 관찰했습니다. 위상 인식(phase-aware) 타깃은 양봉(bimodal) 예측을 유도할 수 있는 반면, 위상 무관(phase-agnostic) 타깃은 통계적으로 안전한 중심점(centroid)으로 붕괴될 수 있습니다. 그럼에도 불구하고, 위상 인식 기반의 STATERA-50K-Crescent는 평가된 방법 중 실제 숨겨진 오프셋을 향해 일관된 움직임을 보여준 유일한 방법입니다. 이는 정적 기하학적 중심점에 비해 절대 유클리드 오차를 미세하게 증가시키는 단안 벡터 오버슈트 아티팩트를 유발하지만, 물리적 포착률(physics capture)을 2.6%에서 41.0%로 향상시킵니다. 이러한 결과는 동결된 시간 표현이 숨겨진 매개변수 추정을 위해 시각적 기하 구조로부터 관성 역학을 더 잘 분리할 수 있음을 시사합니다.
Augustinian BabyLM: 시범적 정의가 소형 언어 모델에 가르칠 수 있는 것과 없는 것
Augustinian BabyLM: What Ostensive Definition Can and Cannot Teach a Small Language Model
언어 모델은 보통 무작위 단어 임베딩으로 학습을 시작한다. 'banana'가 무엇을 의미하는지는 반드시 학습 코퍼스에서 배워야 한다. 나는 성 아우구스티누스의 단어 학습 관—지시(ostension)를 통한 의미 부여—를 1천만 단어로 학습한 소형 마스크드 언어 모델(DeBERTa)에 구현한다. 학습 전에 시각적으로 그라운딩된 토큰은 자신이 라벨하는 이미지 영역에서 유도한 임베딩을 받고, 다른 토큰은 무작위로 시작한다. 시각적 초기화는 학습 종료 시점까지 지속되는 측정 가능한 흔적을 남긴다. 한편 추상적 문법 지식을 탐색하는 대부분의 BabyLM 벤치마크에서는 그 효과가 드러나지 않으며, 시각적 초기화는 그곳에서 성능에 영향을 주지 않는다. 유일한 제로샷 예외는 객체-속성 지식(COMPS)으로, 모든 구성에서 시딩(seeding)이 도움이 된다. 이 결과를 이어가기 위해, 색·재질·크기·형태 지식을 시험하고 항목별 학습 빈도와 시드 여부를 포함한 Visual-Property Swap 벤치마크의 코퍼스 맞춤 버전을 구축한다. 여기서 시각 시드(vision-seeded) 모델은 지속적이고 시드가 재현되는 이점을 보인다. 기능어와 추상 어휘도 강한 시각 시드를 받아 학습 내내 유지하며, 학습 목적 함수가 이를 활용한다. 모든 시드에서 이 단어들에 대한 홀드아웃 마스크 예측 손실이 감소한다. 그러나 내가 실행한 어떤 벤치마크도 이를 포착하지 못한다. 이를 잡아낼 평가가 무엇인지는 여전히 열린 질문이다.
검색 기하 구조가 캐시 기반 CLIP 적응을 좌우한다
Retrieval Geometry Shapes Cache-Based Clip Adaptation
캐시 기반 테스트 시점 적응(test-time adaptation)은 모델을 고정(frozen)한 채 타깃 스트림에서 예시를 저장하고 검색함으로써 CLIP의 예측을 향상시킨다. 그러나 기존 방법들은 이미지-이미지 검색에 사용되는 특징 공간을 대부분 고정된 것으로 취급하여, 적응이 검색 공간 자체에 얼마나 의존하는지는 밝혀지지 않은 채로 남아 있었다. 본 연구는 메모리를 고정하고 검색 인코더만 변경함으로써 이 질문을 탐구하며, 동일한 메모리라도 매우 다른 성능 향상을 가져올 수 있음을 발견하였다: 16개의 검색 공간에 걸쳐 ImageNet-A 캐시 성능 향상은 CLIP과 MAE의 경우 최대 +0.44점에 그치는 반면, DINOv2-L의 경우 +19.7 ± 0.4점에 달했으며, 레이블 없이(label-free) 검색 공간을 선택하는 방식은 ImageNet-V2에서 오라클(oracle) 성능 향상의 98%를 유지하였다. 이러한 결과는 메모리의 품질이 어떤 예시가 저장되는지뿐만 아니라 그것들이 어떻게 검색되는지에도 좌우됨을 보여준다. 이 발견에 착안하여, 우리는 예측에는 고정된(frozen) CLIP을, 검색에는 DINOv2-B를 사용하고 단일 융합 가중치(weight)를 적용하는 학습이 필요 없는(training-free) 시스템인 MARC(Memory Augmented Retrieval for CLIP)를 제안한다. 단일 뷰(single-view) 캐시는 약 7분의 1의 비용으로 1074 ± 21개의 기준선(baseline) 오류를 수정하는 반면, 64개 뷰 앙상블(ensemble)은 878 ± 4개를 수정하는 데 그친다. 네 가지 ImageNet 분포 이동(distribution shift)에 걸쳐 MARC는 67.91%의 분포 외(OOD) 평균 성능을 달성하였으며, 동일한 DINOv2-B 규모와 8개 뷰 조건에서 그래프 기반 캐시 시스템의 62.75 ± 0.15% 대비 64.17 ± 0.31%를 달성하면서도 2.6배 더 빠르게 동작하였다. 전반적으로, 본 연구의 결과는 원격 탐사(remote sensing), 과학 이미징(scientific imaging), 그리고 변화하는 시각 환경에서 강건한(robust) 캐시 기반 적응을 위해 검색 공간이 1차적인(first-order) 설계 선택 요소임을 확립한다.
GraphSVR: 확산 MRI를 위한 q-공간 인지 그래프 기반 슬라이스-볼륨 정합
GraphSVR: q-Space--Aware Graph-Based Slice-to-Volume Registration for Diffusion MRI
확산강조영상(DWI)은 특히 시간 효율적인 프로토콜과 움직임이 발생하기 쉬운 피험자 집단에서 피험자의 움직임에 매우 취약합니다. 슬라이스-볼륨 정합(SVR)이 슬라이스 간 및 스택 간 불일치를 완화할 수 있지만, 확산 MRI는 확산 방향에 따른 대조도와 수십 개의 측정값을 공통 기준 좌표계 내에 정렬해야 하는 요구사항으로 인해 추가적인 복잡성을 유발하며, 실질적으로 4D 정합 문제를 낳습니다. 기존 접근 방식은 주로 순차적 모델링이나 쌍별 유사도에 의존하며, 희소한 그래디언트 샘플링이나 심한 움직임 환경에서 종종 성능이 저하됩니다. 본 연구에서는 DWI의 4D SVR 정합을 위한 q-공간 인지 그래프 기반 프레임워크인 GraphSVR을 소개합니다. GraphSVR은 획득 구조화된 그래프에서 슬라이스 그룹을 노드로 표현하며, 에지는 시간적 근접성, 공간적 슬라이스 기하구조, 확산 인코딩 관계를 인코딩합니다. 그래프 신경망은 전역적으로 일관된 스택 단위 강체 운동을 예측하며, 쌍을 이루는 정답 움직임 없이 해부학적 참조 영상만을 사용하여 자기지도, 제로샷(zero-shot) 방식으로 최적화됩니다. 제어 가능한 움직임 심각도와 그래디언트 희소성을 갖는 실제 획득 기반의 사실적인 재조합 시뮬레이션 및 완전 합성 확산 시뮬레이션 모두를 사용하여 GraphSVR을 평가합니다. 성능은 알려진 정답 변환 대비 그리드 오차(mm) 및 회전 오차를 사용하여 정량화됩니다. 심각한 움직임 하에서 GraphSVR은 표준 DWI 움직임 보정 방법인 FSL eddy에 비해 그리드 오차와 회전 오차를 73% 감소시키며, 가장 큰 개선 효과는 희소 방향 영역에서 관찰됩니다. 이러한 결과는 그래프 기반 추론을 통해 획득 구조를 명시적으로 모델링하는 것이 4D DWI 움직임 추정에서 견고성과 전역적 일관성을 향상시킨다는 점을 보여줍니다. 코드는 https://github.com/nogakertes/GraphSVR.git 에서 이용할 수 있습니다.
LoTA-N2N: 제로샷 자기지도 이미지 노이즈 제거를 위한 지역 흔적 적응
LoTA-N2N: Local Trace Adaptation for Zero-Shot Self-Supervised Image Denoising
단일 이미지 자기지도 노이즈 제거는 사용할 수 없는 깨끗한 타깃을 노이즈 관측값으로부터 구성한 대리 타깃으로 대체한다. 따라서 그 효과는 대리 목적함수가 지도 노이즈 제거와 얼마나 밀접하게 정렬(alignment)되어 있는지, 특히 노이즈가 상관되어 있거나 공간적으로 비정상(nonstationary)이거나 알려지지 않은 경우에 달려 있다. 우리는 MSE 기반 자기지도 목적함수의 넓은 클래스와 지도 MSE 사이의 불일치를 매개변수와 무관한 상수, 그리고 대리 타깃 잔차와 예측 오류 사이의 흔적(trace) 상호작용으로 표현한다. 이에 대응하는 그래디언트 불일치는 이 상호작용의 그래디언트에 의해 결정된다. 이 공식화는 paired-noise, blind-spot, weak-noise, re-corruption, sub-image 방법들에 대한 공통 관점을 제공하는 동시에, 작은 전역 상호작용이 공간적 상쇄(spatial cancellation)를 통해 상당한 양의 양성 및 음성 지역 상호작용을 숨길 수 있음을 밝힌다. 이러한 관찰을 바탕으로 2단계 제로샷 적응 프레임워크인 LoTA-N2N을 제안한다. 1단계에서는 상보적인 서브 이미지 쌍으로 노이즈 제거기를 학습하고 이를 고정하여 분리된(detached) 깨끗한 서브 이미지 프록시를 구성한다. 2단계에서는 이러한 프록시를 사용해 잔차-예측 상호작용을 추정하고 패치 단위 절대 크기를 억제한다. 지역적 구성이 공간적 상쇄를 방지하고 대응하는 전역 상호작용의 크기에 상한을 부여함을 보인다. 자연, 공초점(confocal), X-ray 이미지에 걸친 실험과, 반복 횟수를 맞춘 대조군, 제어된 노이즈 변화, 그래디언트 진단을 통해 IID, 공간적으로 변하는, 혼합 노이즈 조건에서 MSE만 사용한 적응 대비 일관된 성능 향상을 보여준다. 전반적으로 LoTA-N2N은 추정된 지역 상호작용과 공간적 상쇄 제어가, 쌍을 이룬 깨끗한 타깃, 반복 촬영, 또는 사전 정의된 re-corruption 모델 없이 단일 이미지 자기지도 노이즈 제거를 위한 효과적인 설계 원칙을 제공함을 보여준다.
DINOde: 오픈 어휘 의미 분할을 위한 연속적 비전-텍스트 정렬
DINOde: Continuous Vision-Text Alignment for Open-Vocabulary Semantic Segmentation
오픈 어휘 의미 분할(OVSS)은 텍스트 의미를 활용하여 사전 정의된 범주를 넘어 객체를 분할한다. 자기 지도(self-supervised) 모델 DINOv3는 강력한 구조화된 시각 표현을 제공하지만, 고유한 텍스트 정렬이 없어 OVSS에 직접 적용하기 어렵다. 이 간극을 메우기 위해 CLIP 텍스트 임베딩(embedding)을 DINO 시각 매니폴드(manifold)와 연속적으로 정렬하는 ODE 기반 프레임워크인 DINOde를 제안한다. 우리 접근법은 두 가지 상보적 구성 요소를 사용한다: (i) 연속 ODE 궤적을 통해 텍스트 임베딩을 DINO 매니폴드 쪽으로 진화시키는 Semantic Text Flow(STF), (ii) DINO의 CLS 토큰이 담고 있는 전역적 이미지 표현을 점진적으로 정제하는 Global Context Flow(GCF). 이 진화 과정에서 특징(feature) 공간의 초구면(hyperspherical) 기하를 보존하기 위해, 학습된 속도장(velocity field)을 접공간(tangent space)에 제약하는 Velocity Tangent Projection을 추가로 도입한다. 정렬을 연속 궤적으로 모델링함으로써 DINOde는 이산 MLP 투영에 내재된 매니폴드 얽힘(manifold entanglement)을 피하고, 더 견고한 교차 모달 정렬을 달성한다. 광범위한 실험 결과, DINOde는 기존 방법들을 일관되게 능가하며 여러 OVSS 벤치마크(benchmark)에서 최신(state-of-the-art) 성능을 달성함을 보여준다. 코드는 https://github.com/yoon307/DINOde 에서 제공된다.
토론
이 논문과 연결된 포럼 글이 아직 없습니다.