Sep, 2023

Drifter：大规模推荐系统中的高效在线特征监控以提高数据完整性

PDF
TL;DRDrifter 是一种高效、轻量级的在线特征监控和验证系统，通过提供敏捷、响应灵敏和适应性的数据质量监控，实时根本原因分析、漂移检测和有问题的生产事件的洞察，解决现有方法的局限。Drifter 集成了最先进的稀疏数据的在线特征排序和异常检测思想，具有高可扩展性和资源效率，在每分钟处理数百万个实例的生产部署中，只需要两个线程和不到 1 GB 的 RAM。对真实数据集的评估证明，Drifter 在警报和缓解数据质量问题方面具有有效性，显著提高了实时推荐系统的可靠性和性能。
data quality monitoringonline feature monitoringreal-time root cause analysisdrift detectionanomaly detection
发现论文，激发创造
  • 流式短文本可靠可解释的漂移检测

    本研究提出了一种可靠的端到端框架，用于大型任务导向对话系统中模型无关变点检测和解释，并通过模拟对话系统中的客户请求，评估了该方法并展示了其效果。

    May, 2023

  • DRIFT: 一种基于隐式反馈的联邦推荐系统

    本报告提出了 DRIFT，这是一种基于 SAROS 的联邦推荐系统框架，使用隐式反馈来实现精细推荐，同时保护用户隐私，并证明了 DRIFT 在计算时间和安全性方面的优势。

    Apr, 2023

  • 数据流轻量级自动特征监测

    提出了一种名为 Feature Monitoring 的灵活系统，它能够检测高维度输入数据的数据漂移，并能够观察机器学习算法的行为，该系统的轻量、高效和解释性特征排序可以帮助排查问题和减少添加自定义信号的需求。

    Jul, 2022

  • 概念漂移检测器是可靠的警报系统吗？-- 一项比较研究

    该研究通过比较基于错误率和数据分布的概念漂移检测器的性能，并评估它们在识别漂移时的可靠性，为实践者提供了指导建议和警报系统的适用性分析。

    Nov, 2022

  • 数据流的自动模型监控

    本文提出了一种自动模型监测系统 SAMM，它使用了时间和空间有效的无监督流算法来检测概念漂移，并自动生成解释，针对骗局检测模型，对 SAMM 系统进行了五个真实数据集的测试并获得了领域专家的验证。

    Aug, 2019

  • 在线检测及信息图解的垃圾评论与数据漂移适应

    提出了一种在线解决方案，用于识别和解释垃圾评论，包括数据漂移适应，达到了 87% 的垃圾评论 F-measure。

    Jun, 2024

  • 生成文本流中的漂移方法

    本文提供了四种文本漂移生成方法，以便生成带有标记漂移的数据集，并使用增量分类器测试它们恢复漂移的能力。结果表明，所有方法在漂移后性能都有所下降，增量支持向量机在准确性和宏 F1 得分方面运行速度最快，恢复了之前的性能水平。

    Mar, 2024

  • 基于流式无标签数据的概念漂移可靠检测

    该论文提出了一种基于特征分类器的不依赖于数据分布或特定应用的无监督增量漂移检测算法，以实现在数据流中可靠地检测和适应概念漂移，并展示了在 6 个漂移诱导数据集和 4 个来自网络安全领域的附加数据集上的实验评估结果，表明该算法与无监督特征漂移检测器相比具有更少的误警，可以信任且适用性广泛。

    Mar, 2017

  • DriftSurf：基于概念漂移的风险竞争学习算法

    研究了在流数据场景下，概念漂移对先前学习的模型造成的影响和需要重新训练的需求，提出了一种基于漂移检测和更广泛的稳态 / 响应态过程的自适应学习算法，并在实验中验证了该算法优于先前基于漂移检测的方法，并可以应用于多种监督学习问题。

    Mar, 2020

  • 计算性能感知的无监督概念漂移检测基准测试

    该研究提出了一个新的基准套件来评估 AI 系统中的概念漂移检测算法，其中考虑了计算性能和检测质量，并且集成在流式学习的框架中。该套件支持合成和真实数据流的评估，有助于科学界得到无监督漂移检测算法的基准表现。

    Apr, 2023