KDDMay, 2024

在线深度学习的机遇与挑战教程回顾

PDF
TL;DR机器学习算法在当今世界中变得不可或缺，支持和加速我们根据手头数据做出决策的方式。本文回顾了在 ECML PKDD 2023 上举办的我们的在线深度学习机会与挑战教程，并简要概述了在在线学习环境中应用神经网络的机会和潜在风险，其中使用了 River 和 Deep-River 框架。
machine learning algorithmsdata structuresonline learningdeep learning technologiesneural networks
发现论文，激发创造
  • 在线深度学习：即时深度神经网络学习

    论文提出了一种在线深度学习框架，使用新提出的 Hedge Backpropagation 方法，实现了对来自稳态和概念漂移情况下的大规模数据集进行自适应深度的 DNN 模型学习。

    Nov, 2017

  • 在线课程中学生成绩预测的深度学习方法：基于全球视角 的挑战

    使用深度学习技术（CNN 和 RNN-LSTM）预测在线课程传递中学生的绩效，通过三个不同地区收集的数据集，实验结果表明深度学习模型在两个数据集中优于其他优化的传统机器学习模型，并在第三个数据集上具有可比性的性能。

    Jan, 2024

  • 应用导向的深度学习方法中的持续学习

    该论文介绍了人工智能中机器学习的相关概念，特别介绍了称为深度神经网络（DNNs）的一种深度学习模型，它具有多个人工神经元和层级结构，但容易受到所谓的 “灾难性遗忘”（CF）效应的影响，它还介绍了对抗 CF 效应的各种技术，以实现持续学习的目标。

    Jul, 2022

  • 基于元学习的深度在线学习：模型强化学习中的持续自适应

    本文旨在开发一种方法，从传入的数据流中使用深度神经网络模型进行连续的在线学习，使用随机梯度下降算法来更新模型参数，并使用先验的中餐馆过程的期望最大化算法来开发和维护一种混合模型来处理非平稳任务分布。我们将元学习应用于基于模型的强化学习，以适应预测模型关键控制任务中的连续快速自适应。

    Dec, 2018

  • 当元学习遇上在线和持续学习：一项综述

    通过提供一份综合调查报告，有组织地使用一致的术语和形式描述，本文旨在促进这个有前景的研究领域的进一步发展。

    Nov, 2023

  • 商务分析中的深度学习：期望与现实的冲突

    该论文论述了深度学习虽然备受欢迎，但在商业分析领域普及存在困难，原因是计算复杂度、数据结构、缺乏透明度（黑匣子）和人才短缺等问题，而且在结构化数据集上无法优于传统的机器学习模型。因此，应该把深度学习视为现有机器学习模型的有力补充，而非通用解决方案。

    May, 2022

  • 嵌入式设备的在线持续学习

    本文研究了使用移动神经网络进行实时嵌入式设备上的在线连续学习的效果，通过测量它们的性能、内存使用、计算要求和对域外输入的泛化能力，验证了实时在设备上执行学习的有效性。

    Mar, 2022

  • MODL：多学习器在线深度学习

    在线深度学习采用混合多学习器方法，实现快速学习和深度学习的有效平衡，并通过协同学习解决在线学习问题，能够优雅地处理缺失特征，实现了最先进的结果。

    May, 2024

  • 在线学习：综述

    通过基本理念和关键原则的系统回顾以及对不同算法和技术的适当分类，此调查旨在提供对在线机器学习文献的全面调查。总体而言，现有的在线学习作品可以根据学习类型和反馈信息的形式分为三个主要类别：（i）始终可用全反馈信息的监督式在线学习，（ii）具有有限反馈的在线学习，以及（iii）无反馈可用的无监督在线学习。

    Feb, 2018

  • 脉冲神经网络与在线学习：概述与展望

    本研究综述了脉冲神经网络在在线学习场景中的应用，特别是在非平稳环境和数据漂移发生时的优势。

    Jul, 2019