实践中的持续学习

Mar, 2019

Continual Learning in Practice

Tom Diethe, Tom Borchert, Eno Thereska, Borja Balle, Neil Lawrence

TL;DR本文提出了一种自我维护系统的参考架构，可以随着数据的到来不断学习。在数据不断演变的环境中，我们需要管理 ML 模型的架构，在数据分布发生变化、处理异常值、需要重新训练和适应新任务等方面进行自适应。这代表了不断 AutoML 或自适应机器学习。本文描述了这些挑战并提出了参考架构。

Abstract

This paper describes a reference architecture for self-maintaining systems that can learn continually, as data arrives. In environments where data evolves, we need architectures that manage Machine Learning (ML)

self-maintaining systems continual learning machine learning models automatically adaptive machine learning reference architecture

发现论文，激发创造

塑料人工神经网络综述：探索神经结构搜索和不断学习之间的交汇点

这篇论文是第一篇广泛的综述文章，阐述了人工神经网络、持续学习和自动机器学习之间的交叉领域，并提出了各种方法以促进完全自动化和神经网络的终身可塑性。

Jun, 2022

架构对于连续学习很重要

本研究证明了架构的选择对不断学习的性能有显著影响，不同的架构在记忆以前的任务和学习新任务之间存在不同的权衡。此外，本研究研究了各种架构决策的影响，提出了可以改善不断学习性能的最佳实践和建议。

Feb, 2022

部署的持续学习系统保证

作者创建了一个新的安全框架，并验证了该框架在动态图像分类中的有效性，该框架可以用于安全地进行自动甲板跟踪，并显著扩展图像分类器的工作范围。

Nov, 2023

智能制造中人工智能协作的参考软件架构

这篇论文研究在智能制造中的人工智能协作所涉及的挑战，提出了一个以知识图谱、跟踪和场景分析为基础的软件架构，并使用关系化机器学习对生产过程中的知识进行捕捉，从而进行上下文特定的行动推荐，以实现优化产品质量和防止身体伤害。

Jan, 2022

持续学习：应用与未来发展

连续学习是机器学习的一个子领域，本文调查了连续学习研究中的内存受限设置、未解决的问题以及未来的研究方向。

Nov, 2023

强化连续学习

本论文提出了一种称之为强化连续学习的方法，该方法通过巧妙设计的强化学习策略为每个任务搜索最佳神经架构，不仅能够在防止灾难性遗忘方面有很好的性能，还能够适应新任务。在 MNIST 和 CIFAR-100 数据集的连续分类任务实验中，该方法优于现有的深度网络连续学习替代方案。

May, 2018

自动机器学习在持续学习中的应用

这篇论文概述了 AutoML 在增量学习方面的潜力，强调了 AutoML 在增量学习中改进深度表示和自适应学习以适应更多真实世界任务的关键领域。

Nov, 2023

Continual-Learning-as-a-Service (CLaaS): 预测模型的即时高效适应

本文介绍了 Continual Learning-as-a-Service (CLaaS) 模型服务的设计与实现，提供了模型更新和验证工具，支持实时推断，易于使用且高效。经过两个真实场景的评估，发现该模型服务具有良好的可用性和效率，能有效地解决实践中的问题。

Jun, 2022

家庭服务机器人的长期个性化交互式连续学习架构

我们结合了持续学习、语义推理和交互式机器学习的思想，并通过人机交互开发了一种新型的交互式持续学习架构，用于在家庭环境中不断学习语义知识。我们将该架构与一个物理移动机器人集成，并在实验室环境中进行了两个月的广泛系统评估。结果表明，我们的架构能够使物理机器人能够根据用户提供的有限数据不断适应环境的变化，并利用所学知识执行物体获取任务。

Mar, 2024

自动化持续学习

通用学习系统应在不断变化的环境中以开放式方式不断改进自己。本文提出一种自动连续学习 (ACL) 的方法，通过训练自指神经网络来元学习其上下文中的连续学习算法，以解决传统神经网络学习算法中的 “上下文灾难性遗忘” 问题。ACL 有效地解决了这个问题，并且其学习到的算法表现优于手工设计的算法，在无回放设置下，在 Split-MNIST 基准测试上实现了持续学习多个少样本和标准图像分类数据集的目标。

Dec, 2023