arXiv:1611.00817

Gaussian Processes for Survival Analysis

Tamara Fernández, Nicolás Rivera, Yee Whye Teh

제출 2016-11-02

원문 초록

We introduce a semi-parametric Bayesian model for survival analysis. The model is centred on a parametric baseline hazard, and uses a Gaussian process to model variations away from it nonparametrically, as well as dependence on covariates. As opposed to many other methods in survival analysis, our framework does not impose unnecessary constraints in the hazard rate or in the survival function. Furthermore, our model handles left, right and interval censoring mechanisms common in survival analysis. We propose a MCMC algorithm to perform inference and an approximation scheme based on random Fourier features to make computations faster. We report experimental results on synthetic and real data, showing that our model performs better than competing models such as Cox proportional hazards, ANOVA-DDP and random survival forests.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2506.12230v2astro-ph.IM공통 태그 Gaussian Processes공식 코드 · Papers with Code

천문학을 위한 통계적 기계학습 -- 교재

Statistical Machine Learning for Astronomy -- A Textbook

이 교재는 베이즈 추론에 기반하여 천문학 연구를 위한 통계적 기계학습을 체계적으로 다룬다. 현대적 데이터 분석 기법이 고전 통계 방법과 어떻게 연결되며 익숙한 통계 원리로부터 어떻게 도출되는지를 보여 준다. 전반에 걸쳐 사용되는 베이즈 관점은 천문학의 과학적 추론에 필요한 불확실성 정량화와 통계적 엄밀성을 우선시한다. 교재는 확률 이론과 베이즈 추론에서 출발하여 측정 불확실성이 있는 선형 회귀, 로지스틱 회귀, 분류를 포함한 지도학습으로 나아간다. 비지도학습 주제로는 주성분 분석과 군집화 방법을 다룬다. 이어서 샘플링과 마르코프 연쇄 몬테카를로를 소개하고, 확률적 비모수 방법인 가우시안 过程과 더 넓은 통계적 맥락에서의 신경망을 다룬다. 이론 중심의 접근으로 각 방법을 완전한 수학적 전개와 함께 제1원리에서 도출한 뒤 천문학적 응용을 보인다. 우리는 통계적 통찰을 우선시하여 알고리즘이 왜 작동하는지, 언제 적절한지, 더 넓은 통계 원리와 어떻게 연결되는지를 설명한다. 고전적 방법과 그 이론에 대한 탄탄한 기초에서 출발하여 신경망과 같은 현대 기법으로 이어진다. 이러한 기초를 바탕으로 독자는 대규모 천문 서베이가 요구하는 바와 같이 가정, 한계, 불확실성 전파에 적절히 주의하면서 이 방법들을 천문학 연구에 적용할 수 있다. 22개의 동반 튜토리얼은 Jupyter 노트북에서 천문 데이터에 이 방법들을 적용한다.

arXiv:2505.14756v3cs.LG공통 태그 Gaussian Processes공식 코드 · Papers with Code

LLINBO: 신뢰할 수 있는 LLM 인 더 루프 베이지안 최적화

LLINBO: Trustworthy LLM-in-the-Loop Bayesian Optimization

베이지안 최적화(BO)는 비용이 많이 드는 블랙박스 함수를 최적화하는 데 널리 사용되는 순차적 의사결정 도구이다. 최근 대규모 언어 모델(LLM)은 데이터가 적은 환경에서 뛰어난 적응력을 보였으며, 맥락 지식을 활용해 고품질의 질의 지점을 제안함으로써 블랙박스 최적화에 유망한 도구가 되고 있다. 그러나 LLM은 명시적인 대리 모델링과 보정된 불확실성이 없고 내부 메커니즘도 불투명하다. 이러한 구조적 불투명성은 불필요한 실험을 초래할 수 있으며, 이는 BO에서 비용이 크고 탐색이 최적해에 접근하는 것을 방해할 수 있다. 이를 해결하기 위해 우리는 기존 LLM 기반 BO 접근법을 감싸서 그 제안을 언제 어떻게 따를지, 그리고 언제 고전적 BO로 되돌아갈지를 결정하는 일반 프레임워크인 LLINBO(LLM-in-the-Loop BO)를 제안한다. 우리는 이러한 상호작용을 위한 세 가지 메커니즘을 도입하며, 각각은 LLM에 대한 성능 가정 없이도 일반적인 커널에 대해 준선형 누적 후회를 보장하는 무해(no-harm) 이론적 보장을 갖는다. 이러한 이론적 보장 외에도, 시뮬레이션 연구를 통해 LLINBO가 기존 LLM 기반 BO를 더 신뢰할 수 있게 만들면서도 LLM의 퓨샷 학습 능력을 활용하여 고전적 BO보다 우수한 성능을 낸다는 것을 보인다. 또한 실제의 비용이 많이 드는 3D 프린팅 실험에서의 실용적 활용을 추가로 시연한다. 코드는 https://github.com/UMDataScienceLab/LLM-in-the-Loop-BO 에서 확인할 수 있다.

arXiv:2502.19460v4stat.ML공통 태그 Survival Analysis공식 코드 · Papers with Code

생존 모델 평가에서 종속 중도절단 극복하기

Overcoming Dependent Censoring in the Evaluation of Survival Models

종속 중도절단(dependent censoring)은 관측된 공변량이 주어졌을 때 사건 시간과 중도절단 시간이 조건부 독립이 아닌 경우에 발생한다. 이는 생존 모델 평가를 복잡하게 만드는데, 브라이어 점수(Brier score)와 같이 널리 사용되는 지표들이 일반적으로 우측 중도절단을 중도절단 역확률 가중치(IPCW)를 사용하여 처리하기 때문이다. 그러나 IPCW는 추정된 중도절단 분포가 사건 시간과 독립적일 때에만 유효하다. 본 논문에서는 아르키메데안 코퓰라(Archimedean copula)와 코퓰라-그래픽 추정기(Copula-Graphic estimator)에 기반한 종속 브라이어 점수를 제안하고, 해당 마진-시간 추정기의 일치성 및 점근적 정규성을 확립한다. 지표를 평가하기 위해, 원래의 공변량 구조와 알려진 사건 시간을 보존하면서 현실적인 종속 중도절단을 생성하는 반합성(semi-synthetic) 프레임워크를 소개한다. 12개 데이터셋에 걸쳐, 제안된 지표는 IPCW 대비 평균 12–16%의 추정 오차를 감소시킨다. 소스 코드는 https://github.com/thecml/DependentEVAL 에서 확인할 수 있다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.