MMApr, 2022

双流数据在线深度学习

PDF
TL;DR本文提出了 OLD^3S 框架，实现在线学习的高效处理，针对在不断更新的特征空间上进行的数据流的学习问题。通过建立新旧特征空间之间的关系，发现一个共享的潜在子空间以总结旧和新特征空间的信息，构建中间特征映射关系，从而将模型容量作为可学习的语义，以在线方式在模型深度和参数之间达到最优平衡。
doubly-streaming dataonline learningfeature spacesold^3s paradigmmodel capacity
发现论文，激发创造
  • 持续原型演变：从非稳态数据流中在线学习

    通过在共享的潜变量空间中不断更新原型解决了在线学习中原型过时和缓解遗忘的问题，提出了一种学习和预测任意时间点数据的系统。除了最近邻预测之外，通过提高类原型周围的聚类密度和增加类间方差来促进学习的同时，使用记忆库中的样本构成虚拟原型来提高潜在空间质量。

    Sep, 2020

  • 特征可变流数据下的学习

    本文提出了一种新的学习范式：可变特征流式学习，通过恢复消失的特征来提高性能，开发了两种集成方法与实验数据验证了我们的提议的有效性。

    Jun, 2017

  • MODL：多学习器在线深度学习

    在线深度学习采用混合多学习器方法，实现快速学习和深度学习的有效平衡，并通过协同学习解决在线学习问题，能够优雅地处理缺失特征，实现了最先进的结果。

    May, 2024

  • 在线自适应学习下的概念漂移多流分类的在线增强学习

    本文提出了一种新颖的在线增强自适应学习 (OBAL) 方法，通过自适应学习不同流之间的动态相关性，有效地解决了多流分类中负面转移的问题。

    Dec, 2023

  • 基于深度流线性判别分析的终身机器学习

    本文研究了基于流式线性判别分析的深度学习方法，以提高流式学习和增量批量学习在分类任务上的性能。其中特别解决了深度神经网络中因为新信息替换旧信息而带来的灾难性遗忘问题，并在两个分类任务上实现了优越的分类效果。

    Sep, 2019

  • 深度流式正则判别分析的持续学习

    我们提出了流媒体版本的正则判别分析算法，与卷积神经网络结合，证明在 ImageNet ILSVRC-2012 数据集上表现优于批量学习和现有的流媒体学习算法。

    Sep, 2023

  • 从单一视频流在线连续学习视频扩散模型

    本研究介绍了通过在连续视频流中训练扩散模型的可行性，并通过引入两个新的持续视频生成建模基准数据集 —— 终身弹跳球和 Windows 95 迷宫屏幕保护程序，证明了扩散模型可以通过经验重放在线有效地训练，其性能与使用相同梯度步数训练的独立同分布样本的模型相当。

    Jun, 2024

  • 具有短回顾的半监督漂移流学习

    提出了一种基于生成回放框架的半监督漂移流学习方法，能够解决在机器学习中标记数据有限，数据漂移、历史流数据存储有限以及短视窗下的模型更新等问题。

    May, 2022

  • 流式主动学习：针对现实多分布环境的流式学习

    本文提出了一种基于子模信息度量的新型流式活动学习框架 STREAMLINE，该框架通过识别切片、切片感知预算和数据选择的三步过程来补偿工作标记数据中情节驱动的切片不平衡，并在真实世界的流式场景中对图像分类和目标检测任务进行了广泛评估，发现相比基线方法 STREAMLINE 在数据的不频繁但关键的情节上的性能提高了 5％的分类准确度和 8％的 mAP。

    May, 2023

  • 利用两流深度三维卷积神经网络学习空间 - 时间特征进行唇语识别

    本研究探讨利用 3D CNN 和光流输入的深度学习模型提高视频字幕的准确性，并证明采用光流输入单独或与灰度视频输入一起能进一步提高性能，在 LRW 数据集上实现了 5.3% 的绝对改进。

    May, 2019