arXiv:2602.02083v2 math.ST

협업 선형 예측에서의 공변량 불일치 처리

Handling Covariate Mismatch in Collaborative Linear Prediction

Alexis Ayme, Rémi Khellaf

제출 2026-02-02

한국어 초록

여러 센터(기관)에 걸쳐 예측 모델을 학습시키는 경우, 일반적으로 모든 센터가 동일한 공변량(covariate) 집합을 수집한다고 가정한다. 그러나 실제로는 각 센터가 관측값에 대해 서로 다른 특징(feature)을 기록할 수 있으며, 본 논문에서는 이러한 상황을 공변량 불일치(covariate mismatch)라고 부른다. 우리는 센터별로 MCAR(완전 무작위 결측, Missing Completely At Random) 결측 패턴을 가정한 이 어려운 상황에서의 선형 예측을 연구하며, 이질적인 특징 집합에도 불구하고 센터 간 정보를 활용하는 추정량을 개발한다. 저차원 영역에서는 공분산 및 교차 모멘트 추정값의 성분별 집계에 기반한 오라클 선형 예측기의 플러그인 추정량을 제안한다. 고차원에서는 교환 가능성을 보존하는 결측치 대치(imputation) 절차를 이용해 결측 공변량을 먼저 완성한 다음 리지(ridge) 정규화 선형 모델을 적합시키는 대치 후 회귀(impute-then-regress) 전략을 연구한다. 제안된 모든 추정량은 연합학습(federated learning) 제약 조건과 호환되며, 개별 수준의 데이터는 각 센터 내에 그대로 유지되고 집계된 값만 교환된다. 우리는 전역 차원, 센터별 특징 분할, 센터 간 샘플 분포에 따른 예측기의 거동을 명시적으로 특성화하는 점근적(asymptotic) 및 유한 표본(finite-sample) 학습 속도를 제공하며, 수치 실험을 통해 본 접근법을 검증한다.

원문 초록

Training predictive models across multiple centers typically assumes that all centers collect the same set of covariates. In practice, however, they may record different features of their observations, a setting we refer to as covariate mismatch. We study linear prediction under this challenging setting, assuming center-wise MCAR missingness patterns, and develop estimators that exploit information across centers despite heterogeneous feature sets. In the low-dimensional regime, we propose a plug-in estimator of the oracle linear predictor based on component-wise aggregation of covariance and cross-moment estimates. In higher dimensions, we study an impute-then-regress strategy that first completes the missing covariates using an exchangeability-preserving imputation procedure and then fits a ridge-regularized linear model. All proposed estimators are compatible with federated learning constraints: individual-level data remain local to each center, and only aggregated quantities are exchanged. We provide asymptotic and finite-sample learning rates for our predictors, explicitly characterizing their behaviour with the global dimension, the center-specific feature partition, and the distribution of samples across centers, and validate our approach through numerical experiments.

제출 이력

확인된 버전만 표시합니다. 전체 제출 이력은 arXiv 원문에서 확인하세요.

  1. arXiv:2602.02083v2

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2610.02397v1cs.LG공통 태그 regression, Imputation

미국 건물 계량기 데이터 기반 AI 수요 예측을 위한 검증된 데이터 온보딩: 설계, 통제 평가, 그리고 수정된 네거티브 결과

Validated Data Onboarding for AI Demand Forecasting on U.S. Building Meter Data: Design, Controlled Evaluation, and a Corrected Negative Result

전력 유틸리티(electric utility)와 그리드 운영자(grid operator)는 다음날 수요를 예측하기 위해 머신러닝 모델에 점점 더 의존하고 있으며, 이러한 모델은 일상적으로 결함이 있는 계량기 데이터로부터 학습한다: 측정값이 누락되거나, 센서가 멈추거나(freeze), 건물이 수 시간 동안 0으로 기록되거나, 단위가 100배 차이로 바뀌는 경우가 있다. 이 보고서는 모델을 학습시키기 전에 이러한 결함을 탐지하고 복구하는 데이터 온보딩(data-onboarding) 파이프라인을, 예측 시점에 실제로 사용 가능한 정보만을 이용해 제시하며, 이 파이프라인이 24시간 선행 예측(24-hour-ahead forecast)을 보호하는지를 측정하는 통제 실험(controlled experiment)을 함께 제시한다. 공개된 Building Data Genome 2 데이터셋(210,528행, 2016-2017년)에서 추출한 미국 12개 건물의 시간별 전력 데이터에서, 학습 기간의 0.10%에 영향을 미치는 시드(seeded) 처리되고 해시 로그(hash-logged)된 결함은 그래디언트 부스팅(gradient-boosting) 예측기의 오차를 86% 증가시켰다; 탐지 및 과거 데이터만을 이용한 복구(past-only repair) 이후 오차는 정상 데이터 수준으로 돌아왔다(평균 절대 스케일 오차(mean absolute scaled error) 정상 0.760, 오염 1.415, 복구 0.729이며, 학습 타깃의 93%가 보존됨). 공개된 현장 연구(field study)에 맞춰 보정된 결함 발생률(학습 행의 1.6%)에서는, 보호되지 않은 예측기의 오차가 계절성 단순(seasonal-naive) 규칙의 4.4배에 달했으며, 복구된 예측기는 다시 정상 기준선(clean baseline)과 일치했다. 동일한 패턴이 릿지 회귀(ridge regression)와 랜덤 포레스트(random forest)에서도, 그리고 1시간부터 24시간까지의 예측 구간(horizon)에서도 유지되었다. 파이프라인의 초기 버전은 자연 발생 데이터(natural data)를 과도하게 정제(over-clean)하여 예측을 25% 악화시켰다; 이 결과는 그대로 유지되며, 그 원인은 공개된 아티팩트(artifact)에서 추적되고, 이를 수정하는 건물별(per-building) 보정은 날짜가 기록된 수정안(dated amendment)으로 문서화되어 있다. 모든 수치는 고정된(pinned) 공개 입력 데이터로부터 SHA-256 검증, 84개의 자동화된 테스트, 지속적 통합(continuous integration)을 통해 재현 가능하다.

arXiv:2609.27654v1stat.ML공통 태그 regression, Federated Learning

FedIncome: 데이터 주권 제약 하의 디지털 대출 소득 추정을 위한 연합학습

FedIncome: Federated Learning for Income Estimation in Digital Lending Under Data Sovereignty Constraints

디지털 대출 신청에서는 검증된 소득 정보를 확인할 수 없는 경우가 많아, 대출 기관이 신고 소득에 의존하게 되고 이로 인해 과대 대출, 지나치게 보수적인 대출 조건 제시, 또는 상환 능력이 있는 신청자에 대한 거절로 이어질 수 있습니다. 기관 간 데이터 공유 제약은 학습 데이터가 제한적인 소규모 대출 기관에 이 문제를 특히 어렵게 만듭니다. 본 논문에서는 기관들이 원시 차입자 기록을 하나로 모으지 않고도 공유 모델을 학습할 수 있도록 하는 소득 추정용 연합학습(federated learning) 프레임워크인 FedIncome을 소개합니다. 100만 건 이상의 LendingClub 대출을 $50$개 주(state) 단위 클라이언트로 분할하여 이질적인 대출 컨소시엄을 시뮬레이션합니다. 최고 성능의 연합학습 모델은 시간 외(out-of-time) $R^2=0.608$을 달성하였으며, 이는 풀링(pooling)된 중앙집중식 벤치마크의 $0.619$와 비교됩니다. 소규모 표본 클라이언트는 풀링된 중앙집중식 벤치마크 대비 시간 외 $R^2$가 평균 $3.8$퍼센트포인트 향상되었으며, 적합된 클라이언트 수준 관계에 따르면 이 설정에서 경험적 교차점은 약 $4,790$개의 학습 관측치로 나타났습니다. 풀링이 불가능하고 적절한 대안이 로컬 전용 학습인 경우, 연합학습은 모든 표본 크기 그룹에서 시간 외 성능을 향상시키며, 데이터가 부족한 클라이언트에서 가장 큰 향상을 보입니다. 또한 연합학습으로 추정한 소득을 주(state) 및 소득별 부채상환비율(debt-to-income) 임계값과 결합하였습니다. 회고적 의사결정 분석에서 신고 소득을 연합학습 추정치로 대체하면, 관측된 부도율의 변화는 소폭에 그치면서 시뮬레이션된 승인율이 증가합니다. FedIncome은 풀링 학습 대비 전체적인 손실(loss)은 거의 없이, 로컬 전용 추정 대비로는 더 큰 향상을 제공하며 데이터 지역성 제약 하에서의 협력 학습을 지원합니다.

arXiv:2609.28105v1cs.LG공통 태그 Imputation, Federated Learning

Fed-ReMasker: 특징 수준 결측 하의 연합 표 형식 대치

Fed-ReMasker: Federated Tabular Imputation under Feature-Level Missingness

다기관 임상 연구와 생의학 연구 협력은 점점 더 여러 기관에 걸친 데이터를 활용해 단일 기관을 넘어 일반화되는 모델을 구축하려 한다. 이는 두 가지 뚜렷한 과제를 만든다. 데이터 보호 규제는 기관 간 원시 환자 데이터 공유를 제한할 수 있고, 기관마다 서로 다른 프로토콜 아래 부분적으로만 겹치는 특징 집합만 수집할 수 있다. 연합 학습(federated learning)은 원시 데이터를 중앙에 모으지 않고 협력적으로 모델 학습을 가능하게 한다. 그러나 기존 연합 대치(imputation) 방법은 일부 기관에서 전체 특징이 관측되지 않는 특징 수준 결측(feature-level missingness)을 거의 평가하지 않는다. 이 설정을 다루기 위해, 우리는 ReMasker 마스크드 오토인코더를 연합 학습에 맞게 확장한 Fed-ReMasker를 제안하여, 협력 기관들에서 학습한 지식을 활용해 로컬에서 한 번도 관측되지 않은 특징을 기관이 대치할 수 있게 한다. Fed-ReMasker는 선형·비선형 관계를 갖는 합성 데이터셋과 임상 데이터를 포함한 실제 표 형식 데이터셋에 걸친 벤치마크에서 평가한다. 이 벤치마크는 기관 수, 결측 비율, 클라이언트 이질성(heterogeneity)을 변화시킨다. Fed-ReMasker는 동질(homogeneous) 벤치마크에서 값 수준(value-level) 시나리오의 93.2%, 특징 수준 시나리오의 96.7%에서 최저 대치 오차를 달성한다. 단순 연합 평균(federated averaging)만으로도 클라이언트 이질성에 견고하며, 값 수준 36개 시나리오 전부에서 모든 기준선을 능가하고, 특징 수준 36개 시나리오 각각에서 최소 35개에서 각 기준선을 능가하며, 풀링(pooled) 데이터로 학습한 중앙집중식 모델 대비 평균 3.0% 이내에 머문다.

arXiv:2609.25705v1stat.ML공통 태그 regression, Federated Learning

적대적으로 견고한 연합 회귀의 그래디언트 이질성 역학

On the Gradient Heterogeneity Dynamics of Adversarially Robust Federated Regression

연합 학습(FL)은 본질적으로 이질적이다. 정직한 클라이언트는 서로 다른 데이터 생성 모델을 가질 수 있다. 게다가 적대적 클라이언트는 임의의 업데이트를 공유함으로써 이질성을 더욱 두드러지게 만들 수 있다. 기존 분석은 일반적으로 그래디언트 불유사도 조건을 통해 통계적 이질성과 적대적 행동 간의 상호작용을 통제한다. 그러나 근본적인 상계는 사전에 부여되며, 최소제곱 회귀에서조차 보수적인 보장을 줄 수 있다. 우리는 대신 매 라운드마다 새로운 데이터 샘플을 사용하는 선형 및 비선형 회귀의 통계 모델로부터 그래디언트 이질성을 유도한다. 우리의 상계는 정직한 클라이언트의 ground-truth 모델 매개변수 간 이질성, 유한 표본 레이블 노이즈, 초기화를 분리한다. 그런 다음 계수 $\kappa = O(f/n)$을 갖는 임의의 $(f,\kappa)$-견고 집계기(aggregator)에 대해, $f$는 적대적 클라이언트 수, $n$은 전체 클라이언트 수($f/n < 1/2$)일 때, 명시적인 샘플 burn-in 이후 수렴이 성립함을 보인다.

arXiv:2607.22474v1cs.LG공통 태그 regression, ridge regression

음수 릿지 엔드포인트를 넘어서: 음수 이동 경사하강법을 통한 혼합 부호 스펙트럼 정규화

Beyond Negative-Ridge Endpoints: Mixed-Sign Spectral Regularization via Negative-Shifted Gradient Descent

과매개변수화 선형 회귀에서, 많은 약한 스펙트럼 방향은 신호를 담는 스펙트럼에 릿지 패널티처럼 작용한다. 음수 릿지는 필터를 1 위로 밀어 올리는 자연스러운 보정이다. 그러나 안정적인 음수 릿지 엔드포인트는 구조적으로 한계가 있다: 그 극은 0이 아닌 최소 경험적 고유값 아래에 머물러야 하며, 더 작은 고유값을 더 큰 고유값보다 더 강하게 반수축(anti-shrink)한다. 조기 종료 음수 이동 경사하강법은 이 제약을 벗어난다. 그 필터는 예정된 극에서 매끄럽고 혼합 부호를 허용한다: 릿지리스(ridgeless) 이상 방향은 선행 접두를 형성하고, 더 낮은 방향은 수축되거나 노출(exposure)이 제어되며, 종료 시점이 교차점을 설정한다. 가우시안 스파이크-플랫(spike-plus-flat) 모델에서 Marchenko-Pastur 장벽을 발견한다: 암시적 패널티를 상쇄하는 이동(shift)은 최소 경험적 고유값 위 bulk 폭(bulk width)에 위치하며, 명시적 조건 하에서 종료된 경로는 모든 허용 가능한 엔드포인트 대비 위험(risk)에서 다항식 계수만큼 개선한다. 주요 정리는 일반적인 고유효순위(high-effective-rank) 꼬리를 허용한다: 그 trace가 암시적 하한(floor)을 설정하고, 제곱 스펙트럼이 노출을 제어하며, 하한 임계(floor-critical) 경로는 양의 수축(positive shrinkage)을 넘어 한꺼번에 모든 head 스케일을 복원하고, 스케일이 분리되면 릿지리스의 모든 균일 재스케일링까지도 포함한다. 비수축(noncontractive) 이동 동역학을 다루는 것이 핵심 기술적 과제이며, 국소화된 Duhamel 적분이 이를 제어한다. 유한 격자 홀드아웃(hold-out) 부등식이 분리(separations)를 검증으로 선택된 알고리즘으로 전달한다.

arXiv:2607.12730v1cs.LG공통 태그 regression, Imputation

사후 및 모델 내 불확실성을 반영한 학습 기반 확률적 부하 예측

Learning-based Probabilistic Load Forecasting with Post-hoc and In-model Uncertainty

스마트 빌딩 부하 예측기는 종종 조밀한 다변량 고빈도 데이터로 오프라인 학습되지만, 배포 시에는 시간당 단위의 특징이 제한된 입력만 제공될 수 있다. 누락된 특징은 재구성해야 하며, 그 오류는 모델을 통해 전파될 수 있다. 이 입력 불확실성이 반영되지 않으면 예측 구간이 부정확하게 보정되어 수요 반응(demand-response) 스케줄링에 영향을 미칠 수 있다. 본 연구는 추론 입력이 재구성된 이후 불확실성을 어디에 배치해야 하는지를 검토한다. 우리는 시간 해상도를 맞추고, 사용할 수 없는 입력을 재구성하며, 인과적 특징을 도출하는 통합 1일 선행 확률 예측 프레임워크를 개발하고, 모듈식 사후 잔차 분위수 방식과 통합 모델 내 분위수 학습 방식을 비교한다. 비교에는 세 가지 중규모 심층 학습(DL) 백본—순환형, 하이브리드 순환형, 어텐션 기반 시간 융합 트랜스포머(Temporal Fusion Transformer, TFT) 모델—이 동일한 입력, 예측 시계, 전처리 규칙, 학습 예산 하에서 사용된다. 결과는 불확실성 배치가 백본에 따라 달라짐을 보여준다. 통합 분위수 학습은 TFT에서 가장 신뢰할 만하며, 라벨이 있는 테스트 기간에서 2.2-3.6% MAPE와 28-83W RMSE를 달성하고, 명목 커버리지 수준에 가장 근접한 수준에서 모듈식 구간보다 약 5배 좁은 구간을 생성한다. Diebold-Mariano 검정은 TFT 순위와 순환형 백본의 혼합적 동작을 뒷받침한다. 재구성 민감도 테스트는 재구성된 입력이 분위수 점수(QS)를 106% 증가시키지만 구간 폭은 거의 변하지 않음을 보여주며, 이는 모델이 재구성으로 인한 불확실성을 자동으로 흡수하지 않음을 나타낸다. 비DL 기준선 및 계절별 홀드아웃 주차에 대한 견고성 검증은 이 순위를 뒷받침한다. 본 연구 결과는 추론이 재구성된 입력에 의존할 때 사후 잔차 분위수의 한계를 드러낸다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.