ICCVAug, 2023

DeDrift：内容漂移下的鲁棒相似度搜索

PDF
TL;DR通过研究媒体共享网站上上传和搜索的内容的统计分布，我们调查了 “内容漂移” 对基于嵌入空间中最近邻搜索的大规模相似度搜索工具的影响。我们提出并分析了基于可用长时间段上的时间信息的真实图像和视频数据集，基于这些学习结果，我们设计了一种名为 DeDrift 的方法，它通过实时更新嵌入量化器来持续调整大规模索引结构，几乎消除了由查询和数据库内容漂移导致的准确度降低，而且比完全索引重建快 100 倍。
发现论文，激发创造
  • 生成文本流中的漂移方法

    本文提供了四种文本漂移生成方法，以便生成带有标记漂移的数据集，并使用增量分类器测试它们恢复漂移的能力。结果表明，所有方法在漂移后性能都有所下降，增量支持向量机在准确性和宏 F1 得分方面运行速度最快，恢复了之前的性能水平。

    Mar, 2024

  • 一种基于邻居搜索的差异性漂移检测方案，用于学习进化数据

    基于 Neighbor-Searching Discrepancy 的新统计量，提出了一种能够高准确率检测真实概念漂移并忽略虚假漂移的方法，同时还能指示分类边界变化的方法。实验结果表明，该方法在不同分布和维度下具有鲁棒性，并且在漂移检测方面优于现有方法。

    May, 2024

  • 使用 Kullback-Leibler 散度跟踪变化的连续学习

    介绍了一种利用 Kullback-Leibler 散度来监控多维数据流概率分布变化，以预测概念漂移事件并了解其本质的新方法，并探讨了其在预测维护等实际任务中的应用。

    Oct, 2022

  • TransDrift: 使用 Transformer 建模词嵌入漂移

    本文提出了一种基于 transformer 的预测模型 TransDrift 用于保持 word embeddings 与数据分布的一致性，实验证明预测嵌入能够显著提高分类准确性。

    Jun, 2022

  • 揭示文本数据中的漂移：一种检测和缓解机器学习模型漂移的无监督方法

    机器学习中的漂移是指模型所操作的数据或上下文的统计特性随时间改变而导致其性能下降的现象。为了及时预防潜在的性能退化，保持对机器学习模型性能的持续监控过程至关重要。在我们提出的无监督漂移检测方法中，我们采用了两步过程。第一步涉及将生产数据的样本编码为目标分布，将模型训练数据作为参考分布。在第二步中，我们采用了基于核的统计检验，利用最大均值离差（MMD）距离度量来比较参考和目标分布，并估计任何潜在的漂移。我们的方法还能够识别导致漂移的生产数据子集。使用这些被确定为高漂移样本进行重新训练的模型在在线客户体验质量指标上表现出了改进。

    Sep, 2023

  • 使用文档嵌入和降维技术检测文本数据中的协变量漂移

    探讨使用不同文档嵌入、降维技术和漂移检测方法来识别文本数据中的协变漂移的有效性，结果表明某些组合的嵌入、降维技术和漂移检测方法在检测协变漂移方面表现优异。

    Sep, 2023

  • 流式短文本可靠可解释的漂移检测

    本研究提出了一种可靠的端到端框架，用于大型任务导向对话系统中模型无关变点检测和解释，并通过模拟对话系统中的客户请求，评估了该方法并展示了其效果。

    May, 2023

  • 数据流中概念漂移局部性的全面分析

    在线学习中，适应漂移数据流是一个重要挑战。本文提出了一种基于局部性和尺度的概念漂移分类方法，并构建了一套 2760 个基准问题，用于评估不同难度级别的漂移检测器。通过对 9 种前沿漂移检测器的综合评估，揭示了它们的优势和弱点，并为未来的研究提供了策略。研究结果还表明漂移的局部性如何影响分类器性能，并提出了不同漂移类别的恢复时间最小化策略。最后，总结了对未来概念漂移研究的经验教训和建议。

    Nov, 2023

  • MemDA：基于记忆的漂移自适应城市时间序列预测

    我们提出了一种新的城市时间序列预测模型，通过考虑数据中的周期性，并使用元动态网络根据漂移进行即时调整，以解决概念漂移问题。实验结果表明，我们的设计明显优于现有方法，并可以通过减小它们对分布变化的敏感性来很好地推广到现有的预测模型。

    Sep, 2023

  • 集群感知的相似度扩散用于实例检索

    我们提出了一种新颖的基于聚类感知相似性 (CAS) 扩散的实例检索方法，以减少来自其他流形的影响，并通过引入逆约束项和邻居引导相似性平滑方法来优化相似性矩阵，实验结果证明了提出的 CAS 的有效性。

    Jun, 2024