May, 2023

维持稳定性与可塑性以预测降低流失率

PDF
TL;DR本文介绍了一种用于缓解机器学习模型更新导致的预测准确性倒退的方法 ——Accumulated Model Combination。该方法将前面版本与当前版本的模型预测结果结合起来，有效地降低了错误率，并且不会增加额外的计算量与训练过程中的负担。同时，作者通过对比实验证明，这一方法在提高准确率的同时，也可以优化模型的鲁棒性，降低系统误差并提高用户的信任度。
machine learningmodel updatespredictive churnaccumulated model combinationchurn reduction
发现论文，激发创造
  • 利用一组优秀模型进行预测性用户流失

    通过研究 Rashomon 集合中模型更新引起的冲突预测多样性，本文提出了一种传统多样性度量方法用于预测模型的非稳定预测数量，以及如何通过该方法预测、减少和避免消费者应用中的冲突。

    Feb, 2024

  • 朝向持续学习的应用性能模型

    基于机器学习的性能模型在构建关键的作业调度和应用程序优化决策中越来越被使用。我们开发了持续学习性能模型，考虑到数据分布漂移，减轻灾难性遗忘，并提高泛化能力。我们的最佳模型能够保持准确性，无论系统变化引起的新数据分布，同时相比于朴素方法，在整个数据序列的预测准确度上提升了 2 倍。

    Oct, 2023

  • 面向预测用户流失的本地自适应标签平滑化

    探讨了在训练现代神经网络时存在的高预测波动性，并提出了使用软标签来降低波动性的方法，该方法在多种基准分类任务和模型架构上都提高了准确性。

    Feb, 2021

  • 移动设备模型压缩和加速的 AutoML

    本文介绍了使用强化学习算法构建的自动化神经网络模型压缩方法 ——AutoML for Model Compression（AMC），该方法在保持模型准确性的同时，相较于传统的基于规则的压缩方法，具有更高的压缩比，从而实现了在性能和精度之间的最优平衡，并将此方法成功应用于 MobileNet 优化。

    Feb, 2018

  • 神经网络预测的可再现性研究

    研究神经网络模型中随机性导致的模型预测差异问题，提出最小熵正则化和协同蒸馏的两种方法用于减少模型预测差异并提高准确性。

    Feb, 2021

  • 连续数据更新下的模型稳定性

    本研究探讨了机器学习模型的稳定性问题，提出了评估模型稳定性的方法，并发现网络架构和输入表示等模型设计选择对稳定性有重大影响，推荐在进行建模选择时考虑准确性和抖动之间的权衡。

    Jan, 2022

  • 面向稳定的机器学习模型再训练：通过缓变序列实现

    通过使用混合整数优化算法，在重新训练机器学习模型时考虑到不同数据批次更新的稳定性，通过使用自定义的距离度量指标来实现保持一致的分析洞察力，并在一个真实的生产案例中展示出比贪婪训练模型更强的稳定性。重要的分析洞察力在重新训练迭代中保持一致。

    Mar, 2024

  • 机器学习集成中的预测不稳定性

    在机器学习集成中，多个模型的预测被汇总。本文证明了一个定理，表明任何集成模型都会展现出至少一种形式的预测不稳定性，从而需要在信息利用的好处和预测不稳定性的风险之间取得平衡。该分析还揭示了特定集成算法所产生的预测不稳定性的形式，例如像随机森林或 xgboost 这样的流行树集成算法将违反基本的、直观的单调性和公平性属性。

    Jul, 2024

  • 在休闲免费游戏中，将顺序数据和聚合数据相结合进行流失预测

    本文研究如何结合不同的神经网络结构来利用时序和聚合数据以提高客户流失预测的准确性。研究结果表明，使用这两种数据类型的组合比仅使用时序或聚合数据预测器能带来更好的预测准确性。

    Sep, 2022

  • 数据反馈环路：基于模型驱动的数据集偏差放大

    本文旨在通过记录模型与数据的交互过程，以改善未来爬取的 Internet 数据集的信息稳定性。我们发现模型输出表现为源自训练集的样本具有一致性校准时，偏见放大的程度与模型预测的性别偏差等测试时偏差统计显著相关，如果同时在三个条件预测场景中使用，能更好的校准和稳固反馈系统。

    Sep, 2022