Sep, 2014

应用集成学习方法解决 KNN 分类器中 K 参数问题

PDF
TL;DR该研究提出了一种基于集成学习的解决方案来选择 k 最近邻算法中的 K 参数，该解决方案从每次使用不同的 K 值的弱 KNN 分类器开始，最终使用加权求和规则将弱分类器的结果进行组合，实验结果表明该分类器优于传统 KNN 分类器且具有广泛的应用潜力。
发现论文，激发创造
  • 一种改进的 k 最近邻算法用于文本分类

    本文提出了一种改进的 kNN 算法，针对文本分类中常见的类别样本分布不均衡问题，使用不同的邻居数来分类。在文本分类实验中，相比传统方法，该方法对参数 k 的敏感度更低，能够更好地识别属于小类的文档。

    Jun, 2003

  • k*- 最近邻居：从全局到局部

    本文提出了一种简单的，能够使权重最优化的局部加权回归 / 分类方法，并能够为需要估计值的每个数据点高效地找到权重和最优化的邻居数量，从而在多个数据集上展示了比标准局部加权方法更优异的性能表现。

    Jan, 2017

  • 基于灵活 K 近邻分类器的导出和应用：针对基于离子迁移谱的室内定位

    本研究提出了一种新的 KNN 算法，通过测试和比较，在理论场景和基于离子迁移谱指纹的室内定位方面均取得了比标准 KNN 更高的分类准确度，同时要求相同的计算需求。

    Apr, 2023

  • 一个平均分类算法

    采用稀疏近似方法和 herding 步骤生成了一个准确且易于并行化的分类算法，以支持使用尽可能少的训练样本对内核进行评估，涉及分类算法、内核评估和稀疏性等关键词。

    Jun, 2015

  • 重访预训练语言模型的 k-NN

    本文介绍了如何将 k - 最近邻分类器与预训练语言模型相结合以提高自然语言处理的效率，具体方法是采用 k - 最近邻分类器对预训练语言模型进行文本表示，通过校准训练过程来掌握具体实例的困难度，并将校准结果与预训练语言模型的分类器相结合。

    Apr, 2023

  • 分类的自适应最近邻规则

    该论文提出了一种改进的 K 近邻分类器，它可以自适应地为每个查询选择 K，该选择取决于每个邻域的属性，因此可能在不同点之间显着变化，并且可以利用条件概率推导推导出一些收敛界限。

    May, 2019

  • 基于距离的分类器的 PAC-Bayesian 分析：最近邻为什么有效！

    本文介绍了一种基于稀疏先验的 PAC-Bayesian 限制方法，将 K 最近邻分类器转化为核空间框架以求得其广义误差的界限，并在实验中证明了其高效性。

    Sep, 2021

  • KNN-BERT：使用 KNN 分类器微调预训练模型

    本文介绍了利用监督动量对比学习框架和 KNN 分类器结合 fine-tuning 的方法，以学习聚类表示来提高预训练模型的 Robustness 和 Stability，测试结果表明此方法可显著提高文本分类任务中的准确度和对抗性鲁棒性。

    Oct, 2021

  • 基于图学习视角优化 $k$NN 图中的 $k$ 值

    基于图信号处理的方法，优化了 $k$- 最近邻图 ($k$NNGs) 中 $k$ 的选择问题，通过离散优化问题求解最佳 $k$ 值，从而实现了点云去噪。

    Jan, 2024

  • 信息修改的 K 最近邻算法

    提出了一种新的分类方法，名为信息修正 KNN（IMKNN），通过引入互信息（MI）来提高 K - 最近邻算法（KNN）的性能，并从合作博弈论中的 Shapley 值概念汲取灵感，以优化价值分配。实验结果表明，在不同数据集和评判标准下，IMKNN 始终优于其他方法，突出了其在各种分类任务中的优越性能，凸显了 IMKNN 在增强 KNN 算法能力方面的潜力。

    Dec, 2023