本文通过渐近分析导出了带权最近邻分类器超额风险（遗憾）的渐近展开式，并找到了非负权重的渐近最优向量，表明该分类器的遗憾与未加权的 k - 最近邻分类器相比，仅与特征向量的维度有关。同时，在更大的维度上，权重最优。最后，我们还证明，当允许使用负权重时，强平滑假设是可能提高收敛速度的。本文的结果得到了在模拟数据和真实数据集上的实证对比支持。

Jan, 2011

该论文提出了一种改进的 K 近邻分类器，它可以自适应地为每个查询选择 K，该选择取决于每个邻域的属性，因此可能在不同点之间显着变化，并且可以利用条件概率推导推导出一些收敛界限。

May, 2019

本文提出一种基于加权平均值的熵估计器，利用 $k$- 最近邻距离和加权项来实现局部渐进极小化极小化损失下的效率估计，可以在任意维度上获得高效估计，并促进了渐近最小宽度熵的置信区间的构建。

Jun, 2016

本文介绍了一种基于稀疏先验的 PAC-Bayesian 限制方法，将 K 最近邻分类器转化为核空间框架以求得其广义误差的界限，并在实验中证明了其高效性。

Sep, 2021

本文详细介绍了在训练样本为 Poisson 分布和二项式分布下 $k$ 值对于误判率影响的方式，并就此提出了选择 $k$ 值的新方法。

Oct, 2008

通过建立第一个 Kaplan-Meier 基础的最近邻和核生存概率估计的不渐近误差界，我们证明了这些非参数估计的强一致性速率，并且匹配了现有条件 CDF 估计的下限；我们的证明策略还为 Nelson-Aalen 累积风险估计的最近邻和核变体提供了不渐近保证。我们在四个数据集上进行了实验比较这些方法，并发现对于核生存估计器，一个好的核的选择是使用随机生存森林学习的核。

May, 2019

本文通过对 mild assumptions 的研究，提出了 k-NN 回归的高概率有限样本均匀一致收敛率，该率在对数因子下是最优的。本文还证明了 k-NN 回归可以自动适应未知的低内在维度。我们将 k-NN 回归应用到了从噪声观测值中估计函数的水平集和全局最大值方面，得出了新的结果。

Jul, 2017

研究了不完美的训练数据标签对分类方法性能的影响，确立了一些条件，使得 knn 和 SVM 分类器对不完美标签有着鲁棒性并在某些情况下表现更佳，而 LDA 分类器因标签噪声而不一致，理论结果得到了模拟研究的支持。

May, 2018

通过研究在随机噪声情况下的 k - 最近邻（k-NN）一致性，提出了一种鲁棒的 k-NN 方法 (RkNN)，在处理噪声标签时具有一定的纠错和分类能力。

Jul, 2016

本文对 Kozachenko-Leonenko 估计器在扭曲空间中的微分熵进行了分析，提出了首个关于其性能的均匀上界估计和新的极小化下界估计，并且证明了 KL 估计器在不考虑 H"older 球的平滑参数时，可以达到极小化速率，成为第一个可以明确满足此属性的估计器。

Nov, 2017