learning curve | BriefGPT - AI 论文速递

关键词learning curve

搜索结果 - 8

POS 标记器构建中的自适应采样自适应调度
我们引入了自适应调度的自适应采样作为构建词性标注器机器学习的一种新方法，目标是加速在大数据集上的训练，同时不显著损失性能。我们的算法通过分析学习曲线的形状几何特征，结合功能模型，在任何时间点上增加或减少采样间隔，从而证明了其在理论上的正确性
PDF5 months ago
核岭回归在幂律衰减下的渐近学习曲线
在这篇论文中，我们在温和且更现实的假设下，对学习曲线进行了全面的描述，详细阐述了正则化参数、源条件和噪声的选择对学习曲线的影响和相互作用。特别地，我们的结果表明，在噪声水平较小时，' 良性过拟合现象 ' 只存在于非常宽的神经网络中。
PDF9 months ago
预测 Grokking 早期发生：深入探究 grok 模型的损失景观
本文提出了一种低成本的方法，通过学习神经网络早期的学习曲线来预测是否会出现后期的 grokking 现象，并使用傅里叶变换来量化低频分量的幅度以检测这种振荡现象。
PDFa year ago
对比学习实现少样本聚类
本文提出了 Few-Example Clustering (FEC) 算法，它使用对比学习对少量样本进行聚类，其步骤包括候选聚类分配的生成、对每个聚类分配进行对比学习和选择最佳候选，通过在 extit {mini}-ImageNet 和
PDF2 years ago
互相理解的语言更易翻译吗？
通过研究人类的语言学习过程，我们发现，语言对的互相理解程度与训练神经机器翻译模型所需数据量成反比。实验结果表明，在罗曼语系中，语言互相理解程度和神经机器翻译模型的学习曲线下面积存在强相关性。
PDF2 years ago
普适性学习理论
本文研究了一种更贴近于实际机器学习应用的学习模型，但仍然在学习可能性方面提供了完整的理论，并通过探索万能学习问题的学习曲线发现，每个概念类的学习曲线都以指数、线性或任意缓慢的速率衰减，并提出了最优学习算法来实现每种情况下最佳的可能速率。
PDF4 years ago
经验风险的最小化和风险单调性
该研究提出了风险单调性的正式概念，其要求风险不会随着培训集大小的增加而期望恶化。此外，该研究还发现了各种标准学习器（特别是最小化经验风险的学习器）可以在培训样本大小上无脑不单调，这为新的研究方向开辟了一条全新的途径。
PDF5 years ago
教师 - 学生课程学习
我们使用 Teacher-Student Curriculum Learning（TSCL）框架进行自动课程学习，该框架依赖于一系列的 Teacher 算法，这些算法使得学生通过选择更好的子任务进行训练，并通过解决遗忘问题来提高学习速度。我
PDF7 years ago