Ensemble of Example-Dependent Cost-Sensitive Decision Trees
원문 초록
Several real-world classification problems are example-dependent cost-sensitive in nature, where the costs due to misclassification vary between examples and not only within classes. However, standard classification methods do not take these costs into account, and assume a constant cost of misclassification errors. In previous works, some methods that take into account the financial costs into the training of different algorithms have been proposed, with the example-dependent cost-sensitive decision tree algorithm being the one that gives the highest savings. In this paper we propose a new framework of ensembles of example-dependent cost-sensitive decision-trees. The framework consists in creating different example-dependent cost-sensitive decision trees on random subsamples of the training set, and then combining them using three different combination approaches. Moreover, we propose two new cost-sensitive combination approaches; cost-sensitive weighted voting and cost-sensitive stacking, the latter being based on the cost-sensitive logistic regression method. Finally, using five different databases, from four real-world applications: credit card fraud detection, churn modeling, credit scoring and direct marketing, we evaluate the proposed method against state-of-the-art example-dependent cost-sensitive techniques, namely, cost-proportionate sampling, Bayes minimum risk and cost-sensitive decision trees. The results show that the proposed algorithms have better results for all databases, in the sense of higher savings.
함께 살펴볼 논문
공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.
RUBRIC: 불균형 분류를 위한 사실성-효용 균형 순위화
RUBRIC: Realism--Utility Balanced Ranking for Imbalanced Classification
클래스 불균형은 사기 탐지 및 의료 진단과 같이 소수 클래스 샘플이 희소하지만 정확한 분류에 결정적인 위험 민감 응용 분야에서 근본적인 문제를 야기합니다. 기존 오버샘플링(oversampling) 기법들은 클래스 분포의 균형을 맞추기 위해 합성 샘플을 생성하지만, 결정 경계를 왜곡하거나 인위적 아티팩트를 도입하는 저품질 후보를 대량 생성하여 과적합과 일반화 성능 저하를 초래하는 경우가 많습니다. 본 연구에서는 합성 샘플 선택을 '양보다 질' 최적화 문제로 정형화하는 생성기 무관(generator-agnostic) 필터링 프레임워크인 \textbf{RUBRIC}을 소개합니다. RUBRIC은 사실성-효용 트레이드오프를 활용하여 후보들의 순위를 매깁니다. 사실성은 각 후보가 실제 소수 클래스 샘플과 닮은 정도로부터 신경 밀도비 판별자(neural density-ratio discriminator)를 통해 추정되며, 효용은 오목한 마진 기반 점수 함수 $g_-(t)=-\log(1+e^{-t/τ})$를 통해 결정 경계와의 근접성을 포착합니다. 판별자는 모든 벤치마크에서 동일한 아키텍처와 학습 프로토콜을 사용하며, 각 데이터셋의 실제 소수 클래스 대 합성 풀에 대해 독립적으로 적합됩니다. 본 연구에서는 온건한 정규성 조건 하에서, 제안된 필터링 프레임워크가 분포 변화(distribution shift)를 줄이고 준음성 꼬리(near-negative tail) 기여를 억제함으로써 마진 기반 분류기의 일반화 한계(generalization bound)를 단조롭게 강화함을 보입니다. 표준 공개 불균형 분류 벤치마크에 대한 광범위한 실험을 통해, RUBRIC이 여러 데이터 생성기에 걸쳐 전반적인 판별 능력을 유지하면서 소수 클래스 재현율을 향상시킴을 입증합니다. $λ$ 및 선택 예산 $K$에 대한 민감도 분석은 순위화 품질 중심의 성능 트레이드오프를 더욱 명확히 규명합니다.
대규모 언어 모델 시대에 축소되는 언어 다양성의 지형
The Shrinking Landscape of Linguistic Diversity in the Age of Large Language Models
언어는 단순한 의사소통 도구를 넘어 개인의 정체성, 심리 상태, 사회적 맥락에 관한 풍부한 정보를 담으며, 심리학·마�eting·의료 등 다양한 분야에 유용한 통찰을 제공한다. 서로 다른 도메인의 일곱 데이터셋과 88만 건 이상의 텍스트에 걸친 세 가지 연구를 통해, 대규모 언어 모델(LLM)이 쓰기 보조 도구로 널리 채택되는 것이 언어 다양성 감소와 연관되어 있으며, 언어가 제공하는 사회·심리적 통찰을 훼손함을 보인다. LLM이 텍스트를 다듬고 재작성할 때 핵심 내용은 유지되지만, LLM은 또한 문체를 동질화하여 데이터셋과 모델 전반에서 통계적으로 유의미하게(p <= .05) 문장 복잡도 분산을 21–50% 줄이고, 지배적 특성과 연관된 패턴은 강화하면서 다른 패턴은 억제하여 개성보다 순응을 강조한다. 이러한 경향은 서로 다른 LLM, 프롬프트, 맥락에서도 일관되며, 진단 과정, 개인화, 채용 평가, 문화 보존 등에 잠재적 함의를 갖는다.
Scalable Subset Selection in Linear Mixed Models
EDINET-Bench: Evaluating LLMs on Complex Financial Tasks using Japanese Financial Statements
GARG-AML against Smurfing: A Scalable and Interpretable Graph-Based Framework for Anti-Money Laundering
AD-AGENT: A Multi-agent Framework for End-to-end Anomaly Detection
토론
이 논문과 연결된 포럼 글이 아직 없습니다.