arXiv:2408.02355

Quantile Regression using Random Forest Proximities

Mingshu Li, Bhaskarjit Sarmah, Dhruv Desai, Joshua Rosaler, Snigdha Bhagat, Philip Sommer, Dhagash Mehta

제출 2024-08-05

원문 초록

Due to the dynamic nature of financial markets, maintaining models that produce precise predictions over time is difficult. Often the goal isn't just point prediction but determining uncertainty. Quantifying uncertainty, especially the aleatoric uncertainty due to the unpredictable nature of market drivers, helps investors understand varying risk levels. Recently, quantile regression forests (QRF) have emerged as a promising solution: Unlike most basic quantile regression methods that need separate models for each quantile, quantile regression forests estimate the entire conditional distribution of the target variable with a single model, while retaining all the salient features of a typical random forest. We introduce a novel approach to compute quantile regressions from random forests that leverages the proximity (i.e., distance metric) learned by the model and infers the conditional distribution of the target variable. We evaluate the proposed methodology using publicly available datasets and then apply it towards the problem of forecasting the average daily volume of corporate bonds. We show that using quantile regression using Random Forest proximities demonstrates superior performance in approximating conditional target distributions and prediction intervals to the original version of QRF. We also demonstrate that the proposed framework is significantly more computationally efficient than traditional approaches to quantile regressions.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2607.04431v2stat.ML공통 태그 regression, quantile regression

쌍별 분위수 회귀에 관하여 - 통계적 보장과 응용

On Pairwise Quantile Regression - Statistical Guarantees and Applications

분위수 회귀(quantile regression)는 공변량 $Z$에 대한 함수로 관심 있는 실수값 확률변수(r.v.) $Y$의 조건부 분포를 요약하는 강력한 도구를 제공하며, 이는 높은 확률로 큰 분산을 보이는 경우에 해당하고, 표준 최소제곱 회귀(least squares regression)가 정보적이거나 예측적으로 유용한 상황을 넘어선다. 본 논문은 이 방법론을 쌍별(pairwise) 설정으로 확장하는 것을 목표로 한다. 여기서 설명 대상 변수는 두 독립 관측치(예: 생체인식 시스템 입력으로 사용되는 픽셀화된 신분증 사진) 간의 유사도 점수이며, 설명 변수는 나이나 머리색과 같이 이러한 관측치에 부속된 공변량 쌍으로 구성된다. 우리는 이 통계적 학습(statistical learning) 문제의 해에 대한 이론적 보장을 확립한다. 여기서 이 문제는 핀볼 손실(pinball loss)의 쌍별 버전에 대한 경험적 최소화자(empirical minimizer)로 간주된다. $U$-과정($U$-process)에 대한 날카로운 집중(concentration) 결과를 활용하여 일반화 경계(generalization bound)를 증명하고, 빠른 학습률(fast learning rate)을 달성할 수 있는 완화된 조건을 확인한다. 확률론적 분석을 뒷받침하기 위해, 시뮬레이션 데이터 기반 실험 또한 쌍별 분위수 회귀를 위해 여기서 제안하는 방법론의 타당성에 대한 확실한 실증적 증거를 제공한다. 마지막으로, 얼굴 인식에서 유사도 점수 산출 오류를 분석하는 것을 목표로 한 상세 연구를 통해 응용 관점에서의 유용성을 입증한다.

arXiv:2607.13550v1stat.ML공통 태그 regression, quantile regression

조건부 분포의 유연한 추정을 위한 병렬 그래디언트 부스팅

Parallel gradient boosting for flexible estimation of conditional distributions

부스팅은 표준 분류 및 회귀 작업에서 가장 성공적인 학습 기법 중 하나이다. 다중 출력 예측 문제로의 확장은 최근 몇 년간 점점 더 많은 응용을 찾고 있다. 그중 하나는 단일 함수형량이 아닌 전체 조건부 분포의 예측이며, 이는 종종 다중 출력 회귀 문제로 표현될 수 있다. 예를 들어 다중 분위수 회귀(multiple quantile regression)가 그렇다. 이러한 문제를 부스팅의 고전적 구현으로 다루는 것은 계산적으로 어렵다. 왜냐하면 보통 매 반복마다 각 목표(target)마다 하나의 기저 모델을 학습하기 때문이다. 학습 속도를 높이기 위해 더 효율적인 부스팅 변형들이 제안되었지만, 이들은 특정 손실 함수와 기저 학습기(base learner) 클래스, 보통 의사결정 트리에 종속되는 경향이 있다. 본 연구에서는 이러한 한계를 모두 우회하도록 설계된, 그래디언트 부스팅 알고리즘의 수정 버전인 병렬 그래디언트 부스팅(parallel gradient boosting)을 연구한다. 핵심 아이디어는 모든 학습 관측치에 대해 공통의 하강 방향(descent direction)을 사용하는 것이다. 이를 통해 목표의 수와 관계없이 각 반복마다 하나의 기저 모델만 필요하므로 상당한 성능 향상을 얻을 수 있다. 본 연구는 알고리즘의 수렴에 대한 충분 조건을 확립하며, 다중 분위수 회귀 설정을 통해 실용적 사용을 소개한다. 이러한 설정에서 본 방법은 XGBoost와 같은 최신 부스팅 라이브러리와 유사한 품질의 예측을 제공하면서도 수량급으로 더 빠름을 보인다. 그다음, 우리는 결과적으로 얻어지는 조건부 분포 추정량의 성질을 평가하며, 이 추정량은 특히 고차원 설정과 혼합 및/또는 결측 공변량이 존재하는 경우 다른 비모수 및 준모수 추정량들보다 우수함이 경험적으로 입증된다.

arXiv:2607.12730v1cs.LG공통 태그 regression, quantile regression

사후 및 모델 내 불확실성을 반영한 학습 기반 확률적 부하 예측

Learning-based Probabilistic Load Forecasting with Post-hoc and In-model Uncertainty

스마트 빌딩 부하 예측기는 종종 조밀한 다변량 고빈도 데이터로 오프라인 학습되지만, 배포 시에는 시간당 단위의 특징이 제한된 입력만 제공될 수 있다. 누락된 특징은 재구성해야 하며, 그 오류는 모델을 통해 전파될 수 있다. 이 입력 불확실성이 반영되지 않으면 예측 구간이 부정확하게 보정되어 수요 반응(demand-response) 스케줄링에 영향을 미칠 수 있다. 본 연구는 추론 입력이 재구성된 이후 불확실성을 어디에 배치해야 하는지를 검토한다. 우리는 시간 해상도를 맞추고, 사용할 수 없는 입력을 재구성하며, 인과적 특징을 도출하는 통합 1일 선행 확률 예측 프레임워크를 개발하고, 모듈식 사후 잔차 분위수 방식과 통합 모델 내 분위수 학습 방식을 비교한다. 비교에는 세 가지 중규모 심층 학습(DL) 백본—순환형, 하이브리드 순환형, 어텐션 기반 시간 융합 트랜스포머(Temporal Fusion Transformer, TFT) 모델—이 동일한 입력, 예측 시계, 전처리 규칙, 학습 예산 하에서 사용된다. 결과는 불확실성 배치가 백본에 따라 달라짐을 보여준다. 통합 분위수 학습은 TFT에서 가장 신뢰할 만하며, 라벨이 있는 테스트 기간에서 2.2-3.6% MAPE와 28-83W RMSE를 달성하고, 명목 커버리지 수준에 가장 근접한 수준에서 모듈식 구간보다 약 5배 좁은 구간을 생성한다. Diebold-Mariano 검정은 TFT 순위와 순환형 백본의 혼합적 동작을 뒷받침한다. 재구성 민감도 테스트는 재구성된 입력이 분위수 점수(QS)를 106% 증가시키지만 구간 폭은 거의 변하지 않음을 보여주며, 이는 모델이 재구성으로 인한 불확실성을 자동으로 흡수하지 않음을 나타낸다. 비DL 기준선 및 계절별 홀드아웃 주차에 대한 견고성 검증은 이 순위를 뒷받침한다. 본 연구 결과는 추론이 재구성된 입력에 의존할 때 사후 잔차 분위수의 한계를 드러낸다.

arXiv:2607.05312v1stat.ML공통 태그 regression, quantile regression

지역 차분 프라이버시 기반 온라인 분위수 회귀: 추정과 추론

Locally Private Online Quantile Regression: Estimation and Inference

우리는 단일 보고 사용자 수준 ε-지역 차분 프라이버시(ε-LDP) 프로토콜 하에서 온라인 분위수 회귀(quantile regression)의 추정과 추론을 연구한다. 핵심 난제는 표준 분위수 회귀 추정 방정식의 기여가 공변량과 잔차 비교를 결합하기 때문에, 비공개화된 보고만 수신하는 서버가 일반적인 온라인 업데이트를 형성할 수 없다는 점이다. 우리는 각 사용자가 기여를 로컬에서 계산하고, 하나의 선택된 블록 범주에 지지 집합 인식 확률적 양자화와 랜덤화 응답(randomized response)을 적용한 후 단일 보고를 전송하는 유한 알파벳 채널을 개발하여 이를 해결한다. 공개 디코더는 랜덤화 응답 왜곡을 수정하고 올바른 조건부 평균을 갖는 서버 측 추정 방정식 입력을 재구성한다. 이렇게 디코딩된 입력은 투영된 Polyak-Ruppert 평균화에 사용된다. 고정된 유한 채널 설계에 대해, 우리는 지역 프라이버시, 디코더 불편성, 일관성, 점근 정규성, 그리고 사전 지정된 스칼라 대비에 대한 헤시안-프리 자기 정규화 추론을 확립한다. 시뮬레이션과 뉴욕시 택시 운행 데이터 예시는 프라이버시 예산이 증가함에 따라 프라이빗 궤적이 비프라이빗 온라인 기준에 근접하며, 보고된 체계에서 직접 라플라스 및 face-exponential 기하 방출보다 우수한 성능을 보임을 보여준다.

arXiv:2606.28652v1stat.ML공통 태그 regression, quantile regression

온라인 고차원 분위수 회귀를 위한 적응형 반복 하드 임계처리

Adaptive Iterative Hard Thresholding for Online High-dimensional Quantile Regression

온라인 고차원 회귀는 구조적 희소성(sparsity)을 유지하면서 순차적으로 업데이트할 수 있는 알고리즘을 필요로 한다. 본 논문에서는 확률적 서브그래디언트 업데이트와 적응적으로 스케줄링된 하드 임계처리(hard-thresholding) 단계를 교대로 수행하는 온라인 희소 회귀 프레임워크인 적응형 반복 하드 임계처리(Adaptive Iterative Hard Thresholding, AIHT)를 제안한다. 핵심 아이디어는 지지 집합(support) 탐색과 국소 세밀화를 분리하는 것이다: 학습 초기에는 AIHT가 임계처리를 지연시켜 약하지만 정보가 있는 좌표들이 신호를 축적할 시간을 확보하고, 이후에는 투영 빈도를 높여 희소 추정량을 안정화하고 국소 곡률을 활용한다. 본 연구는 손실(loss)이 비매끄럽고 데이터가 이질성이나 중꼬리 잡음을 나타낼 수 있는 어려운 환경인 고차원 온라인 분위수 회귀에 대한 이론을 발전시킨다. 제한 곡률(restricted curvature) 및 그래디언트(gradient) 누출 조건 하에서, AIHT는 팽창된 희소 원뿔(inflated sparse cone) 내에 머물고, 2단계 수렴(convergence) 거동을 보이며, 슬라이딩 윈도우 목적 함수에 대해 로그 리그렛을 달성한다. 임계처리 스케줄링 절제 실험(ablation)과 함께 수행된 온라인 분위수 회귀 시뮬레이션은 제안된 메커니즘을 뒷받침하고 표준 온라인 희소 학습 기준선 대비 이점을 보여준다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.