PyTorchKR Papers

최신 논문

총 5편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2607.20592v1cs.LG

STeMP: 시공간 모델링 프로토콜

STeMP: Spatio-Temporal Modelling Protocol

시공간 머신러닝 모델링은 환경 연구에서 중요한 도구이다. 그러나 머신러닝 모델은 분포와 같은 학습 데이터의 특성뿐만 아니라 교차 검증(cross-validation) 전략을 포함한 방법론적 선택에도 매우 민감하다. 각 결정은 모델 자체는 물론 특정 목적에 대한 모델 품질과 적용 가능성의 추정에도 영향과 함의를 갖는다. 과학에서 머신러닝 기반 환경 지도가 차지하는 큰 역할과 이를 실무로 이전하는 점을 고려할 때, 이상적으로는 표준화된 모델 프로토콜을 사용한 시공간 모델의 투명한 보고는 신뢰, 투명성, 비교 가능성을 확보하는 데 필수적이다. 그러나 시공간 모델링을 위한 그러한 프로토콜은 현재 부족하다. 우리는 STeMP(Spatio-Temporal Modelling Protocol, 시공간 모델링 프로토콜)를 제안하여 이 공백을 메우고자 한다. STeMP는 모델 작동 방식을 이해하기 위한 표준화된 보고와, 중요한 결정과 매개변수를 지적함으로써 모델링 과정 중 가이드를 제공하는 두 가지 목적을 수행한다. 이 프로토콜은 개요(Overview), 모델(Model), 예측(Prediction)의 세 섹션으로 구성된다. 개요 섹션에는 메타데이터가 포함되며, 모델 및 예측 섹션은 예측 변수, 평가, 소프트웨어, 그리고 모델링 워크플로의 기타 관련 요소를 상세히 기술한다. 프로토콜 정의는 GitHub에 호스팅되어 있으며 R 패키지(https://github.com/LOEK-RS/STeMP)와 함께 제공된다. R 패키지에는 웹 애플리케이션이 포함되어 있으며, 이를 통해 프로토콜을 수동으로 또는 제공된 모델링 객체로부터 반자동 방식으로 작성할 수 있다. 일반적인 함정이 발견되면 프로토콜에서 경고가 반환되며, 이는 저자에게 모델링 과정의 가이드로 도움이 될 뿐만 아니라 검토자가 모델링 연구를 평가하는 데에도 지원할 수 있다. GitHub를 통해 커뮤니티의 기여와 피드백 수용을 장려한다.

arXiv:2603.20388v2math.ST

교차 검증에서 SURE까지: 조율된 정규화 추정량의 점근적 위험

From Cross-Validation to SURE: Asymptotic Risk of Tuned Regularized Estimators

우리는 $n$-폴드 교차 검증(CV)으로 조율된 정규화 경험적 위험 최소화(ERM) 추정량의 점근적 위험 함수를 도출한다. 이러한 추정량의 표본 외 예측 손실은 분포적으로, Stein의 비편향 위험 추정(SURE)으로 조율된 정규 평균 모델의 수축 추정량의 제곱 오차 손실(위험 함수)에 수렴한다. 이 위험 함수는 학습 이론에서 흔히 사용되는 최악의 경우 후회에 대한 균등 상한보다 예측 성능을 더 세밀하게 보여준다: 즉, 위험이 실제 매개변수에 따라 어떻게 달라지는지를 정량화한다. 핵심 중간 단계로서, 우리는 (i) $n$-폴드 CV가 SURE로 균등 수렴하며, (ii) SURE는 일반적으로 다수의 지역 최솟값을 가지지만 그 전역 최솟값은 일반적으로 충분히 분리되어 있음을 보인다. 이 충분한 분리성은 CV의 SURE로의 균등 수렴이 CV에 의해 선택된 조율 매개변수의 SURE에 의해 선택된 매개변수로의 수렴으로 이어짐을 보장한다.

arXiv:2303.08777v3stat.ML

분포 무관 편차 경계와 교차 검증 위험 추정을 통한 모델 선택 학습에서 도메인 지식의 역할

Distribution-free Deviation Bounds and The Role of Domain Knowledge in Learning via Model Selection with Cross-validation Risk Estimation

교차 검증(cross-validation) 기반 모델 선택을 통한 학습의 이론적 특성을 분포 무관(distribution-free) 프레임워크로 분석하고, 전체 학습 파이프라인에 대한 VC 차원 기반 편차 경계(deviation bounds)를 유계·비유계 손실 함수 모두에 대해 수립한다. 도메인 지식을 부분 순서 구조로 인코딩한 Learning Spaces 개념을 도입하여, 목표에 잘 맞는 후보 모델 집합과 효율적인 탐색 알고리즘을 결합하면 모델 선택 학습이 LASSO·릿지 회귀 등 표준 방법을 크게 능가할 수 있음을 고차원 선형 회귀 실험으로 검증한다.

arXiv:2607.02328v1stat.ME

모델 위험 예측을 위한 교차 감사 투영

Cross-Audit Projection for Model Risk Prediction

이진 분류에서 K-겹 교차 검증(CV)이 클래스별 위험 추정 시 경험적 추정량보다 오히려 성능이 나빠지는 현상을 고차 점근 분석으로 규명하고, 이를 해결하기 위해 CV의 리샘플링으로 과낙관을 추정한 뒤 점근 이론 기반 투영으로 바이어스를 보정하는 새로운 2단계 방법인 Cross-Audit Projection(CAP)을 제안한다. CAP 추정량은 2차 점근 불편성을 달성하며, 시뮬레이션과 유방암 검출 실험에서 우수한 유한 표본 성능을 보였다.

arXiv:2606.12552v1cs.LG

검증 위기를 넘어서: 교차 검증은 벤치마킹 분산을 놀랍도록 효과적으로 줄인다

Crossing the Validation Crisis: Cross-Validation Reduces Benchmarking Variance Surprisingly Well

제한된 테스트 샘플로 인한 벤치마킹(benchmarking)의 변동성 문제를 해결하기 위해 교차 검증(cross-validation)이 성능 추정의 신뢰도를 크게 높일 수 있음을 입증합니다. 샘플 게인(sample gain) 개념을 도입하여 다중 분할이 성능 추정의 안정성을 실질적으로 개선함을 보여주며, 효율적인 조기 중단 절차도 제안합니다.