arXiv:1411.0894

Classification with the nearest neighbor rule in general finite dimensional spaces: necessary and sufficient conditions

Sébastien Gadat, Thierry Klein, Clément Marteau

제출 2014-11-04

원문 초록

Given an $n$-sample of random vectors $(X_i,Y_i)_{1 \leq i \leq n}$ whose joint law is unknown, the long-standing problem of supervised classification aims to \textit{optimally} predict the label $Y$ of a given a new observation $X$. In this context, the nearest neighbor rule is a popular flexible and intuitive method in non-parametric situations. Even if this algorithm is commonly used in the machine learning and statistics communities, less is known about its prediction ability in general finite dimensional spaces, especially when the support of the density of the observations is $\mathbb{R}^d$. This paper is devoted to the study of the statistical properties of the nearest neighbor rule in various situations. In particular, attention is paid to the marginal law of $X$, as well as the smoothness and margin properties of the \textit{regression function} $\eta(X) = \mathbb{E}[Y | X]$. We identify two necessary and sufficient conditions to obtain uniform consistency rates of classification and to derive sharp estimates in the case of the nearest neighbor rule. Some numerical experiments are proposed at the end of the paper to help illustrate the discussion.

함께 살펴볼 논문

공통 태그를 근거로 연결했습니다. 실제 인용 관계나 논문의 우수성을 뜻하지 않습니다.

arXiv:2105.03358v4eess.IV공통 태그 General Classification공식 코드 · Papers with Code

소프트 어텐션을 통한 피부암 분류 성능 향상

Soft-Attention Improves Skin Cancer Classification Performance

임상 응용 분야에서 신경망(neural network)은 입력 영상에서 가장 중요한 영역에 집중하고 이를 강조할 수 있어야 합니다. 소프트 어텐션(Soft-Attention) 메커니즘은 신경망이 이러한 목표를 달성할 수 있도록 합니다. 본 논문에서는 심층 신경망 구조에서 소프트 어텐션의 효과를 조사합니다. 소프트 어텐션의 핵심 목적은 중요한 특징의 가치를 높이고 노이즈를 유발하는 특징을 억제하는 것입니다. 저자들은 피부 병변을 분류(classification)할 때 소프트 어텐션 메커니즘을 적용한 경우와 적용하지 않은 경우의 VGG, ResNet, InceptionResNetv2, DenseNet 구조의 성능을 비교합니다. 기존 네트워크에 소프트 어텐션을 결합했을 때 HAM10000 데이터셋(dataset) [25]에서 93.7%의 정밀도(precision)를 달성하여 기준선(baseline)[16]보다 4.7% 향상된 성능을 보였습니다. 또한, 소프트 어텐션 결합을 통해 ISIC-2017 데이터셋 [2]에서 기준선[31] 대비 민감도 점수를 3.8% 개선하며 91.6%를 달성했습니다. 코드는 GitHub에서 공개되어 있습니다.

토론

이 논문과 연결된 포럼 글이 아직 없습니다.