Anytime Induction of Low-cost, Low-error Classifiers: a Sampling-based Approach
원문 초록
Machine learning techniques are gaining prevalence in the production of a wide range of classifiers for complex real-world applications with nonuniform testing and misclassification costs. The increasing complexity of these applications poses a real challenge to resource management during learning and classification. In this work we introduce ACT (anytime cost-sensitive tree learner), a novel framework for operating in such complex environments. ACT is an anytime algorithm that allows learning time to be increased in return for lower classification costs. It builds a tree top-down and exploits additional time resources to obtain better estimations for the utility of the different candidate splits. Using sampling techniques, ACT approximates the cost of the subtree under each candidate split and favors the one with a minimal cost. As a stochastic algorithm, ACT is expected to be able to escape local minima, into which greedy methods may be trapped. Experiments with a variety of datasets were conducted to compare ACT to the state-of-the-art cost-sensitive tree learners. The results show that for the majority of domains ACT produces significantly less costly trees. ACT also exhibits good anytime behavior with diminishing returns.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
skfolio: Portfolio Optimization in Python
100-Day Analysis of USD/IDR Exchange Rate Dynamics Around the 2025 U.S. Presidential Inauguration
Automated Risk Management Mechanisms in DeFi Lending Protocols: A Crosschain Comparative Analysis of Aave and Compound
Semantic Scheduling for LLM Inference
SDialog: A Python Toolkit for Synthetic Dialogue Generation and Analysis
B[FM]²: 플로우 매칭과 SplitUNet을 활용한 뇌 파운데이션 모델
B[FM]$^2$: Brain Foundation Model via Flow Matching with SplitUNet
EEG 파운데이션 모델은 대규모 EEG 코퍼스로부터 일반화 가능한 표현을 학습하여 다양한 임상 및 뇌-컴퓨터 인터페이스 과제 전반에서 단일 백본 전이를 가능하게 한다. 기존 모델은 일반적으로 연속적인 다채널 EEG 파형을 패치나 코드북 토큰으로 이산화하고 마스크 자기지도 학습으로 트랜스포머를 훈련한다. 이러한 이산화가 연속적인 뇌 리듬을 파편화하고 세밀한 시간적 동역학을 가린다는 점을 인식하여, 우리는 패치, 토큰화, 마스킹 없이 연속 시간 플로 매칭을 사용해 원시 신호로 직접 사전 학습함으로써 귀납적 편향을 데이터와 일치시키는 B[FM]$^2$(Brain Foundation Model via Flow Matching)를 제시한다. 그러나 다채널 EEG 신호는 플로 매칭에 구조적 난제를 제기한다. 시간 축은 조밀하게 샘플링되고 자기상관이 높은(수천 개의 시점) 반면, 전극 축은 서로 다른 두피 위치의 짧은(수십 개의 채널) 축이다. 이러한 시간-전극 비대칭을 해결하기 위해 우리는 각 블록을 별도의 1D 시간 합성곱과 1D 전극 합성곱으로 분해하고 시간 축으로만 다운샘플링하여 계층 전체에서 전극 위상을 보존하는 속도 네트워크인 SplitUNet을 도입한다. B[FM]$^2$는 단 $36{,}895$개 세그먼트($\approx$ 307시간)의 사전 학습 예산, 즉 기존 EEG 파운데이션 모델이 요구하는 양보다 1~2자릿수($\approx$ 30배) 적은 예산으로 표준 하위 EEG 분류 과제 9개 중 7개에서 새로운 최고 성능을 달성한다. 또한 두 명의 전문의 자격을 갖춘 신경과 의사가 실제 뇌 데이터와 구별하지 못하는 합성 EEG를 생성한다(Cohen's $\kappa = -0.096$). https://jd730.github.io/projects/BFM2
토론
이 논문과 연결된 포럼 글이 아직 없습니다.