Jun, 2023

方阻交叉验证：一种精确高效的超参数调优方法

PDF
TL;DR本文介绍了一种名为 Blocked Cross-validation（BCV）的新方法，在超参数调整方面比传统的 Repeated Cross-validation（RCV）提供更精确的错误估计，即使运行的数量显著减少，也能实现更高的准确度和更低的计算复杂度。
发现论文，激发创造
  • 增量学习的快速交叉验证

    本文提出了一种通用的基于增量学习算法的交叉验证 (Cross-validation) 的性能估计方法，并通过实验表明其在减少计算负担，以及对数据规模扩展和分布式实现上均具有良好的性能。

    Jun, 2015

  • 使用 J-K 折交叉验证在微调 NLP 模型时降低方差

    本研究介绍了一种比 K 折交叉验证更少变异的 J-K 折交叉验证方法，用于评估自然语言处理任务中机器学习模型的性能和参数调整，探讨了如何选择 J 和 K 的问题以及该方法的应用于情感分类、词性标注和文档分类等不同领域的案例表现。

    Jun, 2018

  • K 折交叉验证是否是机器学习最佳模型选择方法？

    机器学习中的 K-fold 交叉验证和神经影像数据集

    Jan, 2024

  • 近似交叉验证：模型评价和选择的保证

    通过单个牛顿推的启动程序，实现了对大量训练数据集的 CV 的近似，解决了 CV 运行时间长的问题；本文提供了一致的非渐进性，确定性的模型评估保证，同时也保证了与 CV 相当的模型选择性能。

    Mar, 2020

  • 快速交叉验证通过顺序测试

    本文提出了一种基于非参数检验和顺序分析的改良型交叉验证程序，可以在保留完整的交叉验证性能的同时，快速找到最佳参数集，比完整的交叉验证计算时间减少了高达 120 倍，并对准确性影响不大。

    Jun, 2012

  • 关于参数学习中的最优泛化

    本文提出了一种快速且准确的基于参数学习的交叉验证策略 ALOOCV，并利用其开发了一种基于经验风险最小化框架的正则化优化算法。

    Nov, 2017

  • 不要浪费时间：早停止交叉验证

    使用早停法进行交叉验证的模型选择，可以更高效地收敛，涵盖更多搜索空间，并实现更好的性能。

    May, 2024

  • 交叉验证的离策略评估

    本文研究了离策略评估中的估计器选择和超参数调优问题，并展示了如何使用交叉验证来解决这一问题，从而验证了交叉验证在离策略评估中是可行的。

    May, 2024

  • 模型选择的交叉验证程序综述

    本研究对交叉验证在模型选择中的表现进行了综述，其中特别强调了实证研究结果和理论研究结果的区别，并给出了根据问题特征选择最佳交叉验证程序的指南。

    Jul, 2009

  • 交叉验证与突变验证在模型选择中的经验比较

    通过比较变异验证方法和 k 折交叉验证方法，我们发现两种方法在选择模型的泛化性能上表现相当，但变异验证方法在选择简化模型和计算成本方面具有优势。然而，在某些情况下，变异验证方法选择过于简化的模型，导致欠拟合，并在超参数选择方面表现不稳定。

    Nov, 2023