arXiv:2110.04502

EnsembleNTLDetect: An Intelligent Framework for Electricity Theft Detection in Smart Grid

Yogesh Kulkarni, Sayf Hussain Z, Krithi Ramamritham, Nivethitha Somu

제출 2021-10-09

원문 초록

Artificial intelligence-based techniques applied to the electricity consumption data generated from the smart grid prove to be an effective solution in reducing Non Technical Loses (NTLs), thereby ensures safety, reliability, and security of the smart energy systems. However, imbalanced data, consecutive missing values, large training times, and complex architectures hinder the real time application of electricity theft detection models. In this paper, we present EnsembleNTLDetect, a robust and scalable electricity theft detection framework that employs a set of efficient data pre-processing techniques and machine learning models to accurately detect electricity theft by analysing consumers' electricity consumption patterns. This framework utilises an enhanced Dynamic Time Warping Based Imputation (eDTWBI) algorithm to impute missing values in the time series data and leverages the Near-miss undersampling technique to generate balanced data. Further, stacked autoencoder is introduced for dimensionality reduction and to improve training efficiency. A Conditional Generative Adversarial Network (CTGAN) is used to augment the dataset to ensure robust training and a soft voting ensemble classifier is designed to detect the consumers with aberrant consumption patterns. Furthermore, experiments were conducted on the real-time electricity consumption data provided by the State Grid Corporation of China (SGCC) to validate the reliability and efficiency of EnsembleNTLDetect over the state-of-the-art electricity theft detection models in terms of various quality metrics.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2609.25924v1stat.ML공통 태그 Dimensionality Reduction, Imputation

조건부 텐서 확산: 분포적 반사실 학습 및 추론

Conditional Tensor Diffusion: Distributional Counterfactual Learning and Inference

인과 추론은 운영 및 관리 의사결정을 이끌지만, 고차원 패널 또는 텐서 설정에서는 여전히 어렵고, 이때 의사결정은 누락된 통제(control) 결과의 결합 조건부 분포에 의존할 수 있다. 본 연구는 처리(treatment) 마스크와 잠재 Tucker 구조를 조건부 확산에 통합하여, 관측된 통제 결과가 주어졌을 때 저차원 코어에서의 효율적인 비선형 score 학습을 통해 이 분포를 복구하는 Counterfactual Tucker Diffusion(CFTDiff)를 제안한다. 마스킹된 Tucker score는 텐서 모드 간 의존성을 유지하면서, 비선형 score 학습의 차원을 모드 차원의 곱에서 Tucker rank의 곱이라는 훨씬 작은 규모로 줄인다. Tucker rank, 최대 모드 차원, 요인 강도(factor-strength)로 조정된 누락 결과 수에 의존하는 조건부 score 추정의 고확률(high-probability) 오차 상계를 확립하고, 이 상계가 누락된 통제 결과의 조건부 분포 복구 보장으로 어떻게 이어지는지 보인다. 다양한 누락률에서의 시뮬레이션은 일반적인 인과 패널 및 행렬/텐서 completion 방법보다 더 정확한 점(point) 복구를 보여 주며, 중첩 확산 명세와의 비교는 마스킹 조건화와 Tucker 차원 축소의 이득을 추가로 뒷받침한다. 노르웨이 iFlex 실험에서 CFTDiff는 경쟁 방법보다 누락 결과를 더 정확하게 복구한다. 인과 분석에 적용하면 추정된 조건부 분포로부터 반사실(counterfactual) 예측 구간과 목표 달성 확률을 얻을 수 있어, 가격 개입을 수요 감소 규모와 신뢰성(reliability) 측면에서 평가할 수 있다.

arXiv:2607.22734v1cs.CV공통 태그 Generative Adversarial Network, Imputation

30m 맑은 하늘 지표면 온도 공백 없는 재구성을 위한 패스트 푸리에 합성곱 생성적 적대 신경망

Fast Fourier Convolutional GAN for 30 m Clear-Sky Land Surface Temperature Gap-Free Reconstruction

위성 기반 지표면 온도(LST)는 지상 관측소가 따라잡을 수 없는 공간적으로 포괄적인 데이터를 제공한다. 그러나 구름의 존재로 인한 심각한 데이터 공백으로 인해 그 활용도는 종종 제한된다. LST는 육지-대기 상호작용을 이해하는 데 필수적이므로, 이 문제를 해결하기 위해 수많은 방법이 제안되어 왔다. 그럼에도 공백 없는 LST 데이터셋을 생성하고 구름으로 오염된 픽셀을 재구성하는 확장 가능하고 적응 가능한 파이프라인 개발은 여전히 어려운 과제로 남아 있다. 또한 고공간 해상도 관측에서 광범위한 결측 영역의 재구성은 특히 어렵다. 이 문제를 해결하기 위해, 우리는 공백 없는 맑은 하늘 LST 제품을 생성하기 위해 고해상도(30m) Landsat 영상에서 구름으로 오염된 픽셀을 재구성하는 다중모달 패스트 푸리에 합성곱 생성적 적대 신경망을 제안한다. 이 방법은 이미지 전체에 걸친 전역 수용 영역(global receptive field)을 가능하게 하는 패스트 푸리에 합성곱을 활용하며, 위성 관측과 합성개구레이더(SAR) 데이터로 구성된 데이터 스택에 의해 안내된다. 모든 LST 분위수에 걸쳐, (재구성된 픽셀에 대해 계산된) 장면 평균 RMSE의 사분위 범위는 일관되게 0.8K에서 1.8K 사이이다. 제안된 접근법은 거의 전 지구적 규모에서 쉽게 이용 가능한 보조 데이터에 의존하면서, 70% 이상의 구름 유발 공백을 포함하는 장면을 포함하여 광범위한 결측 영역의 복원을 가능하게 한다.

arXiv:2607.03641v2stat.ML공통 태그 Dimensionality Reduction, Imputation

다양체 가설 하의 결측 데이터 대체

Missing Data Imputation under Manifold Hypothesis

다양체 가설(manifold hypothesis)은 고차원 데이터가 저차원 내재 다양체 근방에 집중되어 있다고 가정한다. 혼합 변분 오토인코더(VAE)의 최근 발전은 이러한 내재 구조를 충실하게 추출하는 강력한 도구를 제공한다. 이로부터 얻어지는 기하학적 구조는 변수들 간의 지역적 및 전역적 관계를 자연스럽게 도입하며, 결측 데이터를 체계적으로 대체할 수 있는 방법을 제공한다. 우리는 샘플링-중요도-재샘플링(SIR) 절차를 통해 \( p(\bm{x}_{\mathrm{mis}} \mid \bm{x}_{\mathrm{obs}}) \)로부터 샘플링할 수 있는 모델 기반 대체 방법을 제안하며, 이는 잠재 공간에서의 결합 확산 모델(diffusion model)로 더욱 보강될 수 있다. 우리의 방법은 내재 기하학적 구조를 존중하면서 결측 데이터를 대체하고, 최신 방법들과 경쟁력 있는 성능을 달성하며, 대체값의 불확실성을 정량화하고, 모델 기반이므로 전체 절차를 재실행하지 않고도 즉석 대체(on-the-fly imputation)가 가능하다.

arXiv:2607.11429v1cs.LG공통 태그 Dimensionality Reduction, Generative Adversarial Network

공간적으로 일관된 다중 사용자 TR 38.901 채널 생성을 위한 물리 인식 조건부 SetGAN

Physics-Aware Conditional SetGAN for Spatially Consistent Multi-User TR 38.901 Channel Generation

Sionna와 같은 TR 38.901 기반 채널 모델은 신뢰할 수 있지만, 다수의 다중 사용자 채널 실현을 생성하는 데 여전히 높은 비용이 소요된다. 본 논문은 실용적인 질문을 제기한다: 학습된 생성 모델이 사용자 기하 구조에 의해 부과된 공간적 상관관계를 잃지 않으면서 Sionna보다 빠르게 다중 사용자 TR 38.901 채널을 생성할 수 있는가? 이 질문에 답하기 위해, 우리는 Sionna 참조 데이터로 학습된 물리 인식 기하 조건부 SetGAN을 제안한다. 본 방법은 대규모 수신 전력을 정규화된 소규모 페이딩으로부터 분리하고, 주성분 분석(principal component analysis)으로 후자를 압축하며, 기하 의존적 상관관계를 보존하면서 잠재 공간에서 조건부 채널 분포를 학습한다. UMa/NLoS 벤치마크에서 본 모델은 수신 전력 분포를 참조값에 근접하게 유지하여 약 0.41 dB의 Wasserstein 거리를 달성하고, 거리 대비 중앙값 곡선에서 평균 편차 0.03 미만으로 공간 일관성 프로파일을 재현한다. 또한 고정 위치 CPU 대 CPU 벤치마크에서 일치된 사용자 위치 조건 하에 Sionna 대비 경과 생성 시간을 3.45배, CPU 총 비용을 6.15배 절감한다. 이러한 결과는 학습된 생성 모델이 다중 사용자 시스템 평가에 필요한 공간 일관성을 훼손하지 않으면서 TR 38.901 채널 생성을 크게 가속할 수 있음을 보여준다.

arXiv:2607.08971v1cs.LG공통 태그 Dimensionality Reduction, Imputation

부분 관측 행동을 갖는 확률적 선형 밴딧

Stochastic Linear Bandits with Partially Observed Actions

확률적 선형 밴딧(stochastic linear bandit)은 행동을 벡터로 표현하고 보상이 선형인 순차적 의사결정의 핵심 패러다임이다. 본 연구에서는 학습 에이전트가 각 행동에 대해 좌표의 무작위 부분집합만을 관측하는 부분 관측(partially observed) 변형 문제를 다룬다. 이러한 부분 관측 가능성은 추천 및 의료와 같이 전체 행동 기술(description)을 얻는 것이 비용이 많이 들거나 불가능한 환경에서 자연스럽게 발생한다. 일반적으로 이는 준선형 후회(sublinear regret)를 정보이론적으로 불가능하게 만든다. 그러나 행동 벡터의 내재적 차원(intrinsic dimension)이 낮을 경우 이 장벽을 극복할 수 있음을 보인다. 우리는 마스킹된 행동으로부터 잠재 행동 부분공간(latent action subspace)을 추정하고, 에포크 단위로 고정된 표현을 이용해 현재 행동을 대체(impute)하며, 그 결과 얻어진 저차원 좌표에서 OFUL을 실행하는 알고리즘 TOFU-POV를 제안한다. 이론적으로 TOFU-POV는 주변 차원(ambient dimension)이 아닌 내재적 행동 부분공간 차원에 비례하는 $\sqrt{T}$ 후회를 달성하며, 이들 수량과 결측률, 결정 집합 크기, 부분공간 조건화(subspace conditioning) 간의 상호작용을 정량화한다. 또한 내재적 차원에 대한 사전 지식 없이도 동작하는 랭크 적응형(rank-adaptive) 알고리즘도 고안한다. 이러한 보장을 보완하기 위해, 통상적인 보상 학습 불확실성과 부분 관측에 내재된 결측 의존적 비용을 분리하는 새로운 곱 구성(product construction)에 기반한 하한을 제시한다. 합성 및 실제 데이터 실험을 통해 이론을 뒷받침하고, TOFU-POV가 이 어려운 문제에서 자연스러운 베이스라인에 비해 상당한 성능 향상을 달성할 수 있음을 보인다.

arXiv:2607.08579v1cs.HC공통 태그 Dimensionality Reduction, Imputation

ImputeViz: 결측 데이터 진단 및 대체 방법 비교를 위한 시각적 분석 대시보드

ImputeViz: A Visual Analytics Dashboard for Diagnosing Missing Data and Comparing Imputation Methods

결측 데이터는 과학, 사회과학, 공중보건 연구에서 지속적인 장애물로, 분석에 편향을 초래하고 결측값 처리 방식에 대한 책임을 분석가에게 부여한다. 우리는 결측성 진단, 대체 모델 구성, 결과 평가를 지원하는 통합 시각적 분석 대시보드인 ImputeViz를 소개한다. 이 시스템은 MICE, Random Forest, XGBoost, kNN을 포함한 널리 사용되는 방법들을 결측성 패턴을 명시적으로 드러내는 인터랙티브 환경 내에 통합한다. 지리공간적 추론을 지원하기 위해, 사회경제적 거리와 공간적 거리를 혼합하고 기증자 기여를 노출하는 지리적으로 정보화된 kNN 변형인 gKNN을 도입하여, 각 추정치를 어느 지역이 주도하는지 보여주는 출처 기반 시각적 책임성을 가능하게 한다. 우리의 주요 기여는 교차 방법 비교를 일급 시각적 과제로 만들고 표준 방법과 함께 gKNN을 통합하는 방법 불가지론적 시각적 분석 환경이다. 조율된 뷰는 히트맵, 공동 결측성 요약, 분포 진단을 통해 결측성 구조를 드러내며, 분석가가 결측성 패턴(MCAR/MAR)과 결측이 비무작위일 수 있는 경우(MNAR)를 추론하는 데 도움을 준다. 사용자는 모델을 비교하고 조정할 수 있으며, 분포 오버레이, 현재 대상 및 마스크에 대한 각 알고리즘의 MAE, RMSE, Delta RMSE, 실행 시간을 보고하는 방법 비교 요약, 변수 수준 불일치 뷰를 통해 결과를 심층 분석할 수 있다. 방법별 캐시된 결과와 고정된 축 스케일은 방법 전환 시 범위 변화로 인한 인지 부하를 줄인다. 이러한 비교는 방법들이 불일치하는 지점, 민감한 변수, 그리고 대체 선택이 하류 요약에 미치는 영향을 부각시킨다. 사례 연구는 ImputeViz가 분석가들이 효과적인 전략을 선택하고, 민감한 변수를 발견하며, 모델 견고성을 평가하는 데 어떻게 도움을 주는지 보여준다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.