Mar, 2024

面向稳定的机器学习模型再训练：通过缓变序列实现

PDF
TL;DR通过使用混合整数优化算法，在重新训练机器学习模型时考虑到不同数据批次更新的稳定性，通过使用自定义的距离度量指标来实现保持一致的分析洞察力，并在一个真实的生产案例中展示出比贪婪训练模型更强的稳定性。重要的分析洞察力在重新训练迭代中保持一致。
retrainingmachine learning modelsstabilityanalytical insightsshap feature importance
发现论文，激发创造
  • 连续数据更新下的模型稳定性

    本研究探讨了机器学习模型的稳定性问题，提出了评估模型稳定性的方法，并发现网络架构和输入表示等模型设计选择对稳定性有重大影响，推荐在进行建模选择时考虑准确性和抖动之间的权衡。

    Jan, 2022

  • 机器学习模型的经济高效再培训

    优化机器学习模型重新训练的成本，通过考虑数据、模型和预测查询等多种因素，提出了一种成本感知的重新训练算法 Cara，该算法能适应不同的数据变化并在总成本更低的情况下实现比漂移检测基线更好的准确性。

    Oct, 2023

  • 关于迭代重新训练生成模型的稳定性

    本文开发了一个框架，以严格研究在混合数据集（包括真实和合成数据）上训练生成模型对它们的稳定性的影响。通过在 CIFAR10 和 FFHQ 上迭代训练常规流和最先进的扩散模型，我们在合成和自然图像上经验验证了我们的理论。

    Sep, 2023

  • 朝向持续学习的应用性能模型

    基于机器学习的性能模型在构建关键的作业调度和应用程序优化决策中越来越被使用。我们开发了持续学习性能模型，考虑到数据分布漂移，减轻灾难性遗忘，并提高泛化能力。我们的最佳模型能够保持准确性，无论系统变化引起的新数据分布，同时相比于朴素方法，在整个数据序列的预测准确度上提升了 2 倍。

    Oct, 2023

  • 如何重新训练推荐系统？一个顺序元学习方法

    本文通过引入 Transfer Component，提出了 Sequential Meta-Learning (SML) 方法，以达到在推荐系统重复训练模型并提高准确性的目的。通过在实际情况下的实验，SML 不仅实现了显著的加速，而且在推荐准确性方面也优于完全模型重训练，验证了我们提出的方法的有效性。

    May, 2020

  • 减少模型抖动：在生产环境中稳定地重新训练语义解析器

    本论文研究如何应对模型迭代过程中出现的抖动现象，通过引入模型准确性度量指标，研究噪声和模型大小带来的影响，并尝试采用集成和蒸馏等技术降低抖动，其中 co-distillation 技术在资源利用率上有适度提升的同时，可在语义分析系统中达到最佳抖动降低效果。

    Apr, 2022

  • 用于实际应用中监控和重新训练语言模型的框架

    机器学习模型的持续监控和重新训练对于实现多标签分类模型的关键因素和资源利用至关重要。

    Nov, 2023

  • 监控机器学习模型：在线检测相关偏差

    该研究提出了一种序列监测方案，通过考虑测量模型质量的时间依赖性，减少不必要的警报并解决多重测试问题，从而在检测模型质量相关变化方面优于基准方法。此研究为在动态环境中区分小幅波动和有意义的模型性能退化提供了实用解决方案，确保机器学习模型的可靠性。

    Sep, 2023

  • 简单且可扩展的策略，用于持续预训练大型语言模型

    大型语言模型的持续学习策略可以通过简单且可扩展的方法成功更新模型，同时只需使用一小部分计算资源来达到重新训练的效果。

    Mar, 2024

  • 用于分析持续学习者的新度量标准

    在连续流数据的情景中，深度神经网络在解决多个分类任务时，面临着保持旧任务知识同时学习新任务的挑战。本研究分析了当前度量方法的局限性，发现了新任务引起的遗忘问题，并提出了一套考虑任务难度增加的新度量方法，实验证明这些度量方法能够提供有关模型在连续学习环境中平衡稳定性和可塑性的新见解。

    Sep, 2023