PyTorchKR Papers

최신 논문

총 2편
태그·기간 등 상세 필터

카테고리 탐색

로그인 후 이 태그 구독

arXiv:2105.07610v5stat.ML공식 코드 · Papers with Code

교차 클러스터 가중 포레스트

Cross-Cluster Weighted Forests

생물학적 응용을 위한 신뢰할 수 있는 머신러닝 알고리즘을 구축하려면 서로 다른 출처, 배치, 분포, 또는 연구로 인한 데이터 이질성에 적응해야 한다. 우리는 'Cross-Cluster Weighted Forest'(CCWF)를 제안한다. 이는 특징 분포의 이질성을 명시적으로 활용하는 앙상블 접근법으로, 데이터가 자연스럽게 클러스터링될 수 있는 경우 표준 Random Forest보다 더 정확하고 더 일반화 가능한 예측기를 생성한다. CCWF는 RF 아키텍처를 외부 비지도 층, 지도 하위 과제, 그리고 앙상블로 일반화한다. 구체적으로는 학습 데이터의 비지도 클러스터링, 각 클러스터에 Random Forest를 적합시키는 것, 그리고 클러스터 간 일반화 가능성을 보상하는 스택드 회귀 가중치를 통해 포레스트를 결합하는 것을 포함한다. 우리는 해석적으로 다룰 수 있는 포레스트 모델에 대한 이론적 분석을 제공하며, 클러스터 기반 앙상블이 전체 데이터에 단일 포레스트를 학습하는 것보다 점근적으로 더 정확함을 보인다. 이 이득은 바이어스 감소에 의해 주도된다. 시뮬레이션에서 CCWF는 데이터 생성 체제와 결과 모델 전반에 걸쳐 견고함을 보인다. 또한 데이터 분할 및 앙상블 가중 전략이 우리 방법의 이점에 미치는 영향을 탐구한다. 마지막으로, 우리는 접근법을 자연스럽게 클러스터로 나눌 수 있는 암 분자 프로파일링 및 유전자 발현 데이터셋에 적용한다. 시뮬레이션과 실제 데이터 예시 모두에서, 우리의 접근법이 고전적인 Random Forest를 30-40%의 여유로 능가함을 보여주며, 이는 우리의 이론적 결과와 일치한다. 전반적으로, CCWF가 여러 도메인 또는 하위 집단에 걸친 데이터에 대해 통계적으로 타당한 예측 알고리즘을 제공함을 보인다. 이러한 구조는 생물학적 응용에서 흔하다.

arXiv:2410.24145v3stat.ML공식 코드 · Papers with Code

원형 데이터에 대한 투영 랜덤 포레스트와 준비 예측

Projected random forests and conformal prediction of circular data

우리는 원형 반응 변수를 갖는 회귀 문제에 준비 예측 기법을 적용하여, 데이터 교환 가능성 가정 하에 임의의 원형 예측 모델에 대해 적응형 호 길이와 유한 표본 커버리지 보장을 갖는 예측 집합을 생성합니다. 선형 반응 변수를 위해 설계된 기존 예측 모델의 높은 성능을 활용하여, 임의의 선형 반응 회귀 모델을 원형 반응 변수에 적합한 모델로 변환하는 일반적인 투영 절차를 분석합니다. 이 투영 절차에서 랜덤 포레스트를 기본 모델로 사용할 경우, 예측 집합 구성 시 별도의 보정 샘플이 필요 없도록 랜덤 포레스트의 OOB(Out-of-Bag) 메커니즘을 활용합니다. 합성 및 실제 데이터셋에서 결과적으로 도출된 투영 랜덤 포레스트 모델은, 기존의 두 가지 대안 모델이 생성한 분할 준비 예측 집합보다 더 짧은 중앙값 호 길이를 가지는 더 효율적인 OOB 준비 예측 집합을 생성합니다.