벡터 값 선형 회귀에서 가중치 부여 데이터 선택의 정확한 복원 임계값
Exact Recovery Thresholds for Weighted Data Selection in Vector-Valued Linear Regression
본 논문에서는 Hanneke, Moran, Shlimovich, Yehudayoff의 COLT 2025 미해결 문제인 "회귀 태스크를 위한 데이터 선택"의 질문 4 중 임계값 부분을 해결합니다. 우리는 $x\in\mathbb{R}^d$ 및 $y\in\mathbb{R}^m$에 대해 제곱 손실(loss) $\ell_{(x,y)}(W)=\lVert Wx-y\rVert_2^2$을 갖는 벡터 값 선형 회귀를 연구합니다. 학습기는 최소 프로베니우스 노름(Frobenius-norm) 경험적 위험 최소화기를 반환합니다. 우리는 모든 유한 데이터셋(dataset)에서 전체 데이터 손실을 복원하기 위한 가중치 부여 예제의 최소 예산이 정확히 $n^{\star}(d,m)=(m+1)d$임을 증명합니다. 또한 임계값에 근접한 예산에서의 가중치 부여 선택 프로파일 $F_{\mathrm{weighted}}(d,m,n)$을 규명하여 $F_{\mathrm{weighted}}(d,m,(m+1)d-1)=1+1/(dm^2)$임을 보입니다. 우리는 모든 $m$에 대해 이미 알려진 생성 예산(spanning-budget) 값인 $F_{\mathrm{weighted}}(d,m,d)=d+1$과 $n<d$일 때 $F_{\mathrm{weighted}}(d,m,n)=\infty$임을 재현합니다. 미해결된 가장 작은 중간 셀인 $(d,m)=(2,2)$에 대해 $F_{\mathrm{weighted}}(2,2,3)\in[13/8,15/8]$ 및 $F_{\mathrm{weighted}}(2,2,4)\in[5/4,3/2]$임을 증명합니다. 추측된 정확한 값인 $13/8$과 $5/4$를 최대 7개의 원자를 갖는 원 위의 유한 모멘트 문제로 귀결시키고 이에 대한 구조적 증거를 제시합니다. 상한은 고정 기저 원뿔 압축 보조정리(fixed-basis conic compression lemma), 극대 인증(maximal certificate)에 대한 행렬식-면 강성 정리(determinant--facet rigidity theorem), 그리고 평균이 0인 가중치 부여 점 시스템에 대한 샤프 희소화 보조정리(sharp sparsification lemma)를 사용합니다. 이러한 도구들은 그 자체로도 독립적인 관심을 가질 수 있습니다. 또한 우리는 $2d$개의 점으로 이루어진 어떤 가중치 부여 선택도 최적 손실을 복원하지 못하는 $d=m=2$인 명시적인 6개 점 정수 데이터셋을 제시합니다. 따라서 스칼라에서 충분했던 예산 $2d$는 벡터 값 출력으로 확장되지 않습니다. $m\ge2$에 대한 우리의 새로운 회귀 프로파일 결과는 $m=1$에 대한 스칼라 이론을 확장합니다.