分类的自适应最近邻规则

May, 2019

An adaptive nearest neighbor rule for classification

Akshay Balsubramani, Sanjoy Dasgupta, Yoav Freund, Shay Moran

TL;DR该论文提出了一种改进的 K 近邻分类器，它可以自适应地为每个查询选择 K，该选择取决于每个邻域的属性，因此可能在不同点之间显着变化，并且可以利用条件概率推导推导出一些收敛界限。

Abstract

We introduce a variant of the $k$-nearest neighbor classifier in which $k$ is chosen adaptively for each query, rather than supplied as a parameter. The choice of $k$ depends on properties of each neighborhood, and therefore may significantly vary between different points. (For example, the algorithm will use larger $k$ for predicting the labels of points in

k-nearest neighbor classifier adaptive k neighborhood properties convergence rates conditional probabilities

发现论文，激发创造

自适应多类最近邻分类器

研究多类分类问题中 $k$- 近邻分类器的平滑参数选择方法，提出一种基于凸组合的聚合方法并证明其适应未知平滑参数和边际，以及在温和条件下的收敛速率。

Apr, 2018

局部近邻分类及其在半监督学习中的应用

研究使用局部 -$k$- 最近邻分类器的全局超额风险的渐近展开式，通过此理论发现半监督学习问题中的局部选择 $k$ 能够实现额外风险的收敛速率，同时通过模拟研究验证了该理论。

Apr, 2017

最近邻分类的收敛速度

本文提出了一种新的最近邻方法，它能够适应不同空间区域的不同距离尺度，并分析其在度量空间的行为，从而得出分布相关的有限样本收敛速率，并实现了广泛数据空间的最近邻的普遍一致性。

Jun, 2014

最近邻抵抗随机噪声标签

通过研究在随机噪声情况下的 k - 最近邻（k-NN）一致性，提出了一种鲁棒的 k-NN 方法 (RkNN)，在处理噪声标签时具有一定的纠错和分类能力。

Jul, 2016

分析最近邻居对于对抗样本的鲁棒性

本文针对分类器的测试攻击问题，引入了一种理论框架，类似于偏差 - 方差理论，并使用该框架对一种典型的非参数分类器 - k 最近邻分类器的鲁棒性进行了分析，并提出了一种新的修改的 1 最近邻分类器，其在大样本极限下具有良好的鲁棒性。

Jun, 2017

最近邻分类中邻居顺序的选择

本文详细介绍了在训练样本为 Poisson 分布和二项式分布下 $k$ 值对于误判率影响的方式，并就此提出了选择 $k$ 值的新方法。

Oct, 2008

在线最近邻分类

研究在线非参数分类中的一个实例，并考虑经典的 1 最近邻算法，证明它在可实现设置中针对支配或平滑对手实现次线性遗憾 - 即消失的错误率。

Jul, 2023

一类距离度量下基于 k - 近邻的数据集分类

本论文研究使用替代距离的最近邻分类器（k-NN）算法，并探讨了基于一系列随机范数或基于一些特定的一致性条件的距离，并探究了对类别标签的自适应选择距离的两阶段 k-NN 分类器。

Nov, 2015

k*- 最近邻居：从全局到局部

本文提出了一种简单的，能够使权重最优化的局部加权回归 / 分类方法，并能够为需要估计值的每个数据点高效地找到权重和最优化的邻居数量，从而在多个数据集上展示了比标准局部加权方法更优异的性能表现。

Jan, 2017

一个贝叶斯一致的 1-NN 分类器

通过简单修改最近邻分类器，我们展示了一个强 Bayes 一致的学习器，优于 k-NN 分类器，并在限制样本大小和算法时间方面具有较大的优势，获得了令人鼓舞的实验结果。

Jul, 2014