PyTorchKR Papers

최신 논문

총 14편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2606.28725v2cs.CL

DriftGuard: 진화하는 유해성 모더레이션을 위한 안전성 인식 다중 모니터 탐지 및 선택적 적응

DriftGuard: Safety-Aware Multi-Monitor Detection and Selective Adaptation for Evolving Toxicity Moderation

Automated toxicity moderation systems operate in dynamic online environments where harmful behavior evolves through coded language, shifting targets, and strategic adaptation to enforcement. Existing drift detection methods often focus on global distributional change, but such signals may miss safety-relevant shifts that emerge in localized harm subspaces or high-risk model-error regions. This paper introduces DriftGuard, a safety-aware adaptive moderation framework that combines multi-monitor drift detection with selective model updating. The framework tracks global text drift, identity-harm drift, model uncertainty, toxic-risk drift, and false-negative-risk drift. When safety-relevant change is detected, the model is updated using a hard-mix adaptation set that prioritizes likely false negatives, identity-related high-risk examples, false-positive-risk examples, and uncertain boundary cases. Experiments on Civil Comments temporal shift and Jigsaw-to-DynaHate cross-dataset shift show that safety-aware monitors detect risks missed by global drift alone. Hard-mix adaptation improves toxic recall and accuracy over no-update and random-balanced baselines. It raises toxic recall from 0.8453 to 0.8777 on Civil Comments and from 0.7107 to 0.8523 on DynaHate. Bootstrap analysis further shows stable DynaHate safety gains, with toxic recall increasing by 0.1418 and false-negative prevalence decreasing by 0.0781. Overall, DriftGuard links safety-aware drift detection with targeted, lightweight model updating for more robust adaptive toxicity moderation.

arXiv:2610.13598v1math.ST

불일치를 넘어서: 비정상 가중 위험 최소화에서의 오라클 드리프트

Beyond Discrepancy: Oracle Drift in Nonstationary Weighted Risk Minimization

본 논문에서는 초과 위험(excess risk)을 추정, 드리프트, 근사 성분으로 분해하여 비정상 가중 위험 최소화(nonstationary weighted risk minimization)에서의 분포 드리프트를 분석합니다. 기존에는 드리프트 오차를 예측 모델(predictor) 클래스 전반에 걸친 위험의 변화를 제어하는 불일치 유형의 양(discrepancy-type quantities)을 통해 제한하는 것이 일반적이었습니다. 이와 달리 본 연구에서는 드리프트 오차를 모델 클래스 내 최적 예측 모델의 이동과 직접 연관 짓고, 매개변수화된 회귀 모델에서 이러한 거동을 분석합니다. 우리의 분석에 따르면 불일치 유형의 양은 지나치게 보수적일 수 있습니다. 본 논문의 오라클 드리프트(oracle drift)와 달리, 이러한 기존 양은 그에 따른 초과 위험 기여도보다 더 큰 차수로 스케일링될 수 있으며, 최적 예측 모델에 영향을 주지 않는 위험 표면의 변화에도 반응할 수 있습니다. 선형 회귀에 대해 우리는 이러한 격차를 정밀하게 규명하고, 그에 따른 드리프트 경계를 추정 보장과 결합합니다. 나아가 비모수 회귀로도 분석을 확장합니다.

arXiv:2610.02661v1cs.LG

AIGS: 비정상 데이터 스트림에서의 온라인 표현 학습을 위한 적응형 점진적 게이팅 시스템

AIGS: Adaptive Incremental Gating System for Online Representation Learning in Non-Stationary Data Streams

사물 웹(WoT) 및 엣지 컴퓨팅 환경의 실시간 데이터 스트림은 잠재적인 체제 변화(regime changes)를 거치며 진화하는 경우가 많습니다. 엄격한 계산 제약 하의 온라인 표현 학습(online representation learning)에서 핵심 문제는 유용한 과거 지식을 유지하면서 개념 드리프트(concept drift)에 신속하게 반응하는 안정성-가소성 딜레마(stability-plasticity dilemma)를 해결하는 것입니다. 기존 방법들은 고정된 업데이트 일정이나 롤링 윈도우를 사용합니다. 그러나 이러한 방식은 급격한 변화가 발생할 때 매개변수 경직화(parameter ossification)를 겪고, 스트림이 안정적으로 유지될 때는 계산 자원을 낭비합니다. 본 논문에서는 경량 폐루프 상태 인지 적응 프레임워크인 적응형 점진적 게이팅 시스템(AIGS, Adaptive Incremental Gating System)을 제안합니다. AIGS는 최근 변동성에 대해 현재 재구성 오차를 정규화하는 내생적 잔차 피드백 메커니즘인 Shock Ratio를 도입합니다. 이 신호는 학습 가소성과 기억 유지 사이를 부드럽게 보간하는 연속 가소성 컨트롤러(Continuous Plasticity Controller)를 구동합니다. 표현 학습을 폐루프 제어 메커니즘으로 다룸으로써, AIGS는 치명적 망각(catastrophic forgetting)을 방지하고 지연 시간에 민감한 엣지 디바이스에 적합한 스텝당 엄격한 선형 복잡도 $\mathcal{O}\left(k\cdot d\right)$를 유지합니다. 교통 네트워크, 기상 시스템, 산업 인프라를 아우르는 실제 스마트 시티 동적 스트림에 대한 실험은 도메인에 따라 뚜렷한 이점을 보여줍니다. Electricity Transformer Temperature 데이터셋에서 AIGS는 점진적인 성능 저하 상황에서 8.31(ETTm1) 및 9.88(ETTm2) 스텝의 예방적 조기 경보 리드 타임을 달성합니다. Performance Measurement System 교통 데이터셋에서는 급격한 변화 이후 훨씬 빠른 변화 후 회복 속도를 보입니다. 노이즈가 매우 심한 Weather 데이터셋에서는 확률적 노이즈 과적합을 방지하면서 이상치 재현율을 향상시킵니다. 이러한 결과는 AIGS가 자원 제약이 있는 엣지 모니터링 시스템을 위한 실용적인 플러그 앤 플레이 어댑터임을 입증합니다.

arXiv:2605.05738v2cs.LG

CoMemNet: 교통량 예측을 위한 드리프트 인식 샘플링 기반 지속 메모리 네트워크

CoMemNet: A Continual Memory Network with Drift-Aware Sampling for Traffic Prediction

교통 센서 네트워크는 센서가 추가되고 교통 분포가 변화함에 따라 진화하지만, 대부분의 예측 모델은 고정된 노드(node) 집합을 가정하고 사용 가능한 모든 데이터에 대해 반복적으로 재학습(retraining)을 수행합니다. 본 논문에서는 진화하는 교통 센서 네트워크에서 효율적인 예측을 수행하기 위한 지속 메모리 네트워크(Continual Memory Network)인 CoMemNet을 제안합니다. CoMemNet은 현재 주기에 적응하기 위한 온라인(Online) 브랜치와 안정적인 특징(feature) 참조 역할을 하는 지수 이동 평균 타깃(Target) 브랜치를 사용합니다. 바서슈타인(Wasserstein) 기반 드리프트 샘플러는 노드별 온라인-타깃 특징 분포를 비교하고 업데이트할 제한된 드리프트 민감 노드 집합을 선택합니다. 또한 경량의 노드 적응형 시간 메모리 재생 버퍼(TMRB-N)는 모든 과거 학습 데이터를 반복해서 순회하지 않고도 압축된 시간 상태를 유지합니다. 예측 백본은 인접 행렬(adjacency matrix)을 직접 사용하지 않으며, 센서 인접성은 데이터를 구성하고 선택된 업데이트 집합을 제한된 이웃으로 선택적으로 확장하는 데에만 사용됩니다. 3개의 다중 주기 PeMS 데이터셋을 대상으로 한 실험에는 3개의 시드 평가, 강력한 정적 재학습 및 지속 학습(continual learning) 베이스라인, 통제된 샘플링 전략, 지속 학습 평가 지표, 강건성 테스트, 자원 사용량 분석이 포함됩니다. 실험 결과는 CoMemNet이 제한된 공유 노드 선택 조건에서도 안정적인 예측 정확도와 효율적인 적응력을 유지하며, 과거 지식 보존과 현재 주기 예측 성능 간에 더 우수한 균형을 달성함을 보여줍니다. 아울러 진화하는 네트워크가 확장됨에 따라 CoMemNet은 현재 주기 재학습 베이스라인 대비 정확도와 누적 학습 시간 측면에서 더욱 뚜렷한 이점을 보입니다. 코드는 https://meiwu5.github.io/CoMemNet 에서 확인할 수 있습니다.

arXiv:2510.25573v2stat.ML

확률 예측의 캘리브레이션 모니터링과 이미지 분류를 활용한 개념 드리프트 탐지 응용

Monitoring the calibration of probability forecasts with an application to concept drift detection involving image classification

이미지 분류를 위한 머신러닝 접근법은 해당 분야에서 놀라운 발전을 이끌었다. 예를 들어, 합성곱 신경망은 산업, 국방 및 기타 분야의 광범위한 응용에서 뛰어난 이미지 분류 정확도를 달성할 수 있다. 이러한 머신러닝 모델들이 인상적인 정확도를 자랑하는 한편, 이 모델들이 생성하는 예측의 캘리브레이션(calibration)을 어떻게 평가하고 유지할 것인가에 대한 관련 문제도 존재한다. 분류 모델은 예측된 확률이 실제 사건 발생률과 일치할 때 잘 캘리브레이션되었다고 한다. 머신러닝 캘리브레이션을 평가하고 잘못된 예측을 재캘리브레이션하는 방법은 다양하게 존재하지만, 시간이 지남에 따라 예측 모델의 캘리브레이션 손실 가능성을 지속적으로 모니터링하는 접근법 개발에는 상대적으로 적은 노력이 기울여졌다. 본 논문에서는 전통적인 공정 모니터링과 개념 드리프트(concept drift) 응용 모두에서 캘리브레이션 이상을 탐지할 수 있는 동적 한계를 갖춘 누적합(cumulative sum) 기반 접근법을 제안한다. 이를 통해 현장에서 이미지 분류 성능에 영향을 미치는 운영 컨텍스트 변화를 조기에 탐지할 수 있다. 제안된 관리도(chart)는 사용자가 시간에 따른 확률 예측을 잠재적인 캘리브레이션 저하에 대해 모니터링해야 하는 모든 상황에서 광범위하게 활용될 수 있다. 중요하게도, 본 방법은 확률 예측과 사건 결과만을 사용하여 작동하며 머신러닝 모델의 내부 접근을 필요로 하지 않는다.

arXiv:2607.08443v1cs.NI

ADORN: 강화학습을 활용한 Open RAN의 적응형 드리프트 처리

ADORN: Adaptive Drift handling for Open RAN using Reinforcement Learning

O-RAN 환경에서 동적 트래픽 변동으로 인한 AI/ML 모델 드리프트 문제를 해결하기 위해, 재학습 결정을 마르코프 결정 과정(MDP)으로 정식화하고 Q-learning 기반 강화학습(RL) 에이전트가 예측 정확도와 재학습 비용 간의 균형을 학습하는 ADORN 프레임워크를 제안한다. 다중 전문가 LSTM 앙상블을 통해 파국적 망각(catastrophic forgetting)을 완화하며, 실험 결과 탐욕적·무작위 기준선 대비 재학습 오버헤드를 효과적으로 줄이면서 SLA 성능 기준을 유지하는 것으로 나타났다.

arXiv:2606.30322v1cs.LG

광학 네트워크 장애 탐지에서 레이블 효율적 개념 드리프트 적응을 위한 하이브리드 능동-온라인 학습 프레임워크

Hybrid Active-Online Learning Framework for Label-Efficient Concept Drift Adaptation in Optical Network Failure Detection

광학 네트워크 장애 탐지에서 개념 드리프트(concept drift) 적응 문제를 해결하기 위해, 마진 기반 불확실성 샘플링으로 가장 유용한 샘플만 선택적으로 레이블링하는 하이브리드 능동-온라인 학습(active-online learning) 프레임워크를 제안한다. Adaptive Random Forest(ARF) 기반의 이 방법은 스트리밍 샘플의 3.4%만 쿼리하여 완전 지도학습 온라인 모델과 동등한 정확도 및 AUC를 달성하면서, 정적 추론 대비 이벤트당 0.0026ms의 무시할 만한 지연 오버헤드만 추가한다.

arXiv:2606.27005v1cs.AI

회복력 있는 AI를 위한 적응형 효용 기반 자원 오케스트레이션 (AURORA-AI)

Adaptive Utility driven Resource Orchestration for Resilient AI (AURORA-AI)

비정상적 계산·운영 조건에서 정적 자원 할당의 한계를 다루기 위해 AURORA-AI는 Hamilton-Jacobi-Bellman 피드백 제어, Lyapunov 기반 안정성 모니터링, 공정성 인식 복합 효용을 단일 폐루프 정책으로 통합해 이질적 AI 모델 집단에 계산 예산을 재분배한다. 인구통계적 바이어스 충격, 개념 드리프트, 블랙 스완 교란을 동시에 주입한 시뮬레이션에서 Static·Proximal Policy Optimisation 대비 즉시 회복하고, 알파·슈퍼 분위수를 각각 29%·25% 높이며 인구통계적 동등성 격차를 줄이고 Lyapunov-안정 운영 스텝 비율을 증가시켰다.

arXiv:2606.22026v1cs.LG

제어된 분포 이동 하에서 효율적인 배치 모델 적응을 위한 클러스터별 국소적 드리프트 탐지

Cluster-Specific Localized Drift Detection for Efficient Batch Model Adaptation under Controlled Distribution Shift

동적 환경에 배포된 머신러닝 시스템은 비정상적(nonstationary) 데이터 분포 하에서 빈번하게 작동하며, 이 경우 제어된 분포 이동이 예측 성능을 점진적으로 저하시킬 수 있다. 그러나 널리 사용되는 많은 표 형식 벤치마크 데이터셋은 명시적인 시간적 구조를 갖추지 못하여 드리프트 적응 방법의 재현 가능한 평가를 제한한다. 본 연구는 클러스터 유도 분포 이동 시뮬레이션 프레임워크를 제안하는데, 이는 특징 공간 파티션 전반에 걸친 구조적 교란을 통해 정적 표 형식 데이터셋을 제어된 진화형 데이터 스트림으로 변환한다. 이 프레임워크를 활용하여 여섯 가지 적응 전략을 체계적으로 평가한다: 정적 학습, 슬라이딩 윈도우 재학습, 전역 ADWIN 재학습, 클러스터 로컬 ADWIN 재학습, 랜덤 서브스페이스 드리프트 탐지, 특징 분할 드리프트 탐지. 실험은 선형 모델, k-최근접 이웃(k-Nearest Neighbours), 트리 앙상블, 부스팅 방법, 적응형 온라인 학습기를 포함한 다양한 예측 모델 계열을 사용하여 분류 및 회귀 과제를 모두 포함하는 다섯 개의 벤치마크 데이터셋에서 수행된다.

arXiv:2606.20216v1cs.LG

학습자 기반 컨셉트 드리프트 감지: 분석 및 평가

Learner-based Concept Drift Detection: Analysis and Evaluation

머신러닝 알고리즘은 진화하는 스트리밍 환경에 배포될 때, 흔히 컨셉트 드리프트(Concept Drift)라고 불리는 비정상성 데이터 분포를 처리해야 합니다. 컨셉트 드리프트의 존재는 예측 성능을 심각하게 저하시켜 견고한 의사결정을 지원하는 능력을 방해할 수 있기 때문에, 많은 실제 애플리케이션에 있어 주요한 과제가 됩니다. 따라서 시간이 지남에 따라 높은 정확도를 유지하기 위해서는 드리프트 이벤트를 적시적이고 효율적으로 감지하는 것이 중요합니다. 본 연구는 컨셉트 드리프트의 특성과 여러 범주에 걸친 다수의 드리프트 감지 알고리즘을 이론적으로 조사합니다. 또한, 급격한 변화와 점진적인 변화와 같은 다양한 스트리밍 시나리오와 드리프트 특성을 나타내는 합성 및 실제 데이터셋에서 이들의 성능을 평가합니다. 본 연구는 컨셉트 드리프트 특성의 복잡한 개념과 드리프트 감지기의 동작, 그리고 다양한 맥락에 대한 적용 가능성에 대한 이해를 높이는 것을 목표로 합니다.

arXiv:2606.18778v1cs.LG

드리프트와 오염 하에서 잠재 클러스터 기하를 통한 온라인 분포 예측

Online Distributional Prediction via Latent Cluster Geometry Under Drift and Corruption

비정상(non-stationary) 스트림에서의 온라인 학습은 종종 점 추정(point estimate)을 추적하는 문제로 공식화되지만, 많은 응용에서는 전체 데이터 생성 분포를 예측해야 한다. 우리는 드리프트와 적대적 오염(adversarial corruption) 하에서 온라인 분포 예측을 연구한다. 우리의 접근법은 각 후보 확률 법칙을 잠재 클러스터 기하(latent cluster geometry)로 표현한다. 이는 확률 질량을 조직하고 예측 분포를 유도하는 가변 크기 중심(center) 구성이다. 이러한 구성에 대한 Gibbs 준사후(quasi-posterior)는 사후 평균(posterior averaging)을 통해 온라인 예측기를 산출하며, 그로부터 얻어진 가변 차원 사후는 reversible-jump MCMC로 샘플링할 수 있다. 따라서 이 방법은 불확실성, 정규화(regularization), 비교를 위한 구조화된 잠재 공간을 유지하면서 매개변수적(parametric) 스트리밍 법칙을 지정하는 것을 피한다. 성능은 시간에 따라 변하는 실제 법칙에 대한 누적 Wasserstein-1 후회(cumulative Wasserstein-1 regret)로 평가한다. 분석은 두 가지 효과를 분리한다. 오염은 손실(loss) 기반 사후 갱신을 교란하고, 드리프트는 장기간 사후 기억을 낡게 만든다. 후자는 동일한 준베이지안(quasi-Bayesian) 갱신을 시간적으로 국소화하는 재시작(restart) 변형으로 해결한다. 그 결과 고확률(high-probability) 상계는 PAC-베이지안(PAC-Bayesian) 복잡도 항, 오염에 민감한 사후 교란 항, 그리고 \(A_T^{\mathrm{OT}}=\sum_{t=2}^T W_2^2(p_{t-1}^*,p_t^*)\)에 의해 구동되는 동적 최적 수송(optimal transport) 항으로 분해된다. 유계 지지(bounded support), 안정적인 잠재 기하, 예측 사상(predictive map)의 정칙성(regularity), 오라클 실현 가능성(oracle realizability), 국소화된 재시작 윈도우, 아선형(sublinear) 수송 작용(transport action), 아선형 오염 예산 하에서, 재시작 예측기는 아선형 누적 Wasserstein 후회를 달성한다. 이러한 보장은 스트림, 드리프트 메커니즘, 또는 오염 과정에 대한 매개변수적 모델을 필요로 하지 않는다.

arXiv:2606.17805v1cs.LG

QueryMarket: 데이터 마켓에서의 비용 인식 온라인 능동 학습

QueryMarket: Cost-Aware Online Active Learning in Data Markets

데이터 수집은 실시간 스트림 학습의 주요 병목 현상입니다: 분석가는 롤링 예산을 준수하면서 즉석에서 어떤 레이블을 구매할지 결정해야 합니다. 그러나 기존의 온라인 능동 학습은 개념 드리프트(concept drift) 하에서 가격 책정, 정보 이득, 롤링 예산 제약 조건을 거의 통합하지 않습니다. 우리는 모델에 대한 추정 효용과 가격을 기반으로 각 유입 데이터 포인트를 쿼리하는 시장에서 영감을 받은 프레임워크인 QueryMarket를 소개합니다. 이 프레임워크 내에서 우리는 OVBAL(online variance-based active learning)을 제안합니다. OVBAL은 지수적 망각(exponential forgetting)이 적용된 D-최적성(D-optimality) 기준을 통해 각 샘플의 한계 효용을 추정하고, 롤링 예산 제약 조건 하에서 비용 인식 구매를 실행하여 데이터 가격 책정과 정보 기반 선택을 통합합니다. OVBAL은 비정상 스트림과 이질적인 레이블 비용에 적응하는 간단하고 완전히 온라인인 의사 결정 규칙을 제공합니다. 합성 데이터와 실제 태양광 발전량 예측 작업에 대한 실험 결과, OVBAL은 판매자 중심 가격 책정 하에서 특히 효과적이며, 두 가지 가격 책정 방식 모두에서 실제 작업 시 더 유리한 장기적 오류-비용 트레이드오프를 보여줍니다.

arXiv:2606.12643v1cs.LG

TEDD: 불안정한 시간적 특징의 강건한 탐지

TEDD: Robust Detection of Unstable Temporal Features

시간에 따라 분포가 변하는 불안정한 특징으로 인한 모델 성능 저하 문제를 해결하기 위해, 회귀 모델을 활용해 타임스탬프 예측에 기여하는 특징을 자동으로 감지하는 TEDD 기법을 제안한다. 이 방법은 파라미터 튜닝 없이 수치형 및 범주형 특징의 다양한 변화 패턴과 다변량 드리프트(multivariate drift)를 효과적으로 감지한다.

arXiv:2606.11471v1cs.CR

머신러닝 기반 피싱 탐지 시스템의 성능에 미치는 컨셉트 드리프트의 영향 평가 및 대응

Evaluating and Combating the Impact of Concept Drift on the Performance of Machine Learning-Based Phishing Detection Systems

디지털 영역의 확장은 디지털 통신의 현저한 증가를 가져왔으며, 이메일은 가장 주요한 채널 중 하나로 부상했습니다. 이메일 통신의 확산은 업무 및 개인적인 맥락 모두에서 명확하며, 이로 인해 악의적인 행위자가 악용할 수 있는 수많은 취약점이 생성되었습니다. 수신자에게 악의적인 의도를 품고 있는 스팸 이메일(원치 않는 통신의 일종)은 이메일 기술의 시작 이래 이메일 사용자에게 지속적인 과제가 되어 왔으며, 이 문제는 디지털 환경의 성장으로 인해 더욱 악화되었습니다. 이메일 스팸 필터는 잠재적으로 유해한 메시지를 식별하고 그 악의적인 콘텐츠에 대해 사용자에게 경고하도록 설계된 이메일 클라이언트의 필수 구성 요소입니다. 피싱(Phishing)은 종종 맬웨어 기반 공격의 초기 단계가 되며, 맬웨어가 시간이 지남에 따라 점점 더 정교해짐에 따라 빠르게 진화하고 있습니다. 맬웨어 및 스팸 도메인 내의 악의적인 활동을 탐지하기 위해 널리 채택된 접근 방식은 머신러닝(machine learning)의 적용입니다. 우리의 목표는 스팸 이메일 도메인 내의 진화가 이러한 머신러닝 기반 탐지 시스템에 미치는 영향을 평가하고, 관련된 성능 저하를 완화하기 위한 전략을 탐색하는 것입니다.