PyTorchKR Papers

최신 논문

총 2편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2610.03321v1math.OC

저계수 근사 검증의 정보 한계

Information Limits of Low-Rank Approximation Certification

저계수 근사(low-rank approximation)에서는 오차가 지정된 허용 오차를 충족하는지 확인하기 위해 추가적인 행렬-벡터 곱이 필요할 수 있습니다. 본 연구에서는 상대 행렬 오차와 평균 제곱 출력 오차 모두에 대해 이러한 검증(certification) 비용을 규명합니다. 단일 근사 행렬 후보의 경우, 허용 실패 확률이 0으로 수렴함에 따라 차원에 무관한 정확한 미니맥스 쿼리 상수를 결정합니다. 본 논문의 주요 결과는 근사 공간이 확장됨에 따라 검증(validation) 반응을 재사용하는 것과 관련이 있습니다. 검증과 독립적으로 구성된 후보군에 대해, 단 하나의 배치(batch)만으로도 검사 횟수에 따라 쿼리 예산을 늘리지 않고 전체 중첩 경로를 지원할 수 있습니다. \(W\)개의 경로 전반에 걸쳐 공유 잔여 에너지를 활용한 집중 부등식은 \(\sqrt{\log(W+1)}\) 의존성을 산출합니다. 일치하는 하한선은 고정된 내부 오차 목표와 충분히 작은 분리 간격에 대해 이것이 최적임을 입증합니다. 마지막으로, 동일한 분산 스펙트럼 계열에서 균일하게 유효한 두 개의 인증서를 비교합니다. 각 규칙 계열 내에서 검증 예산을 최적화하면 실제 목표를 넘어 검증 및 구성에 각각 \(N^{1/3}\) 및 \(N^{2/3}\) 차수의 비용이 발생합니다. 코드는 https://anonymous.4open.science/r/Low-rank-approximation-1275/ 에서 확인할 수 있습니다.

arXiv:2603.10277v4cs.LG

그래프 신경망을 이용한 조건수 추정

Estimating condition number with Graph Neural Networks

본 논문에서는 그래프 신경망(GNN)을 사용하여 희소 행렬의 조건수를 추정하는 빠른 방법을 제안한다. GNN의 효율적인 배포를 위해 $\mathrm{O}(\mathrm{nnz} + n)$ 복잡도를 갖는 그래프 특징 구성을 도입한다. 여기서 $\mathrm{nnz}$는 행렬의 비영 요소 수이고 $n$은 행렬 차원을 나타낸다. GNN을 사용하여 행렬 조건수를 추정하는 두 가지 방식을 제안한다. 하나는 조건수를 분해하여 역행렬을 명시적으로 구성하지 않고 계산 비용이 상대적으로 더 큰 부분 $\|\mathbf{A}^{-1}\|$를 예측하는 방식이며, 다른 하나는 전체 조건수 $κ$를 예측하는 방식이다. 우리의 접근법은 임의의 노름으로 확장할 수 있다. 1-노름 및 2-노름 조건수 추정에 대해 광범위한 실험을 수행하였으며, 이는 우리 방법이 기존 수치 추정 방법보다 상당한 속도 향상을 달성함을 보여준다. GNN 조건수 추정기용 소프트웨어는 https://github.com/inEXASCALE/sparse-kappa 에서 공개적으로 제공된다.