连续视觉里程计中遗忘和迁移的实证影响
研究探讨了持续学习算法中前向传递的表现力,并考察了连续学习算法在图像分类领域的表现。结果发现,保留过去信息的表现力更好,同时这种表现力更加多样和可辨识。
Mar, 2023
本文提出了一种双存储自组织架构用于实现终身学习,其中包含具有学习物体实例和类别的互补任务的两个增长式重复神经网络;通过在连续感官经历中扩展它们,这两个增长网络都能够提取出对未知数据更强的特征。
May, 2018
通过大型语言模型,我们研究了在具有高度泛化能力的视觉行为克隆代理中,从视觉观察中进行复杂多模态机器人操作任务。我们提出了 NBCagent,一个语言条件下的持续学习行为克隆代理,在面对一系列具有挑战性的未知任务时,可以不断学习新的机器人操作技能的观察知识。我们设计了一个特定于技能的进化规划器来进行知识解耦,可以将新的技能特定知识不断嵌入到我们的 NBCagent 代理中。同时,我们还提出了一个技能共享的语义渲染模块和技能共享的表示蒸馏模块,有效地在语义和表示方面传递抗遗忘的技能共享知识,进一步解决了旧技能的灾难性遗忘问题。最后,我们设计了一个持续的机器人操作基准,并进行了一些昂贵的实验,证明了我们方法的显著性能。
Mar, 2024
本论文研究了如何将基于连续学习模型的目标识别系统与移动机器人 Fetch 结合起来,以便使机器人能够在与人类用户的多个交互中继续学习。通过与 60 名参与者进行的实验,作者发现,如果机器人忘记了之前学过的目标,参与者对于连续学习机器人的信任、能力和可用性的感知将会明显降低。然而,进行 2-3 次教学和测试任务的任务负荷并不随会话数的增加而增加。此外,本研究发现,目前的连续学习模型在机器人与人类参与者交互时的可靠性较低。
May, 2023
提出了一种新颖的机器人系统,通过持续在线学习和自我监督来适应部署环境,解决了传统机器人学习固定模型的问题。实验结果表明,在语义感知领域的持续学习和回溯有助于降低遗忘风险,提高了分割和定位精度,相比部署固定模型,平均分割提高 60%,定位精度提高 10%。
May, 2021
本研究提出了 TAMiL 方法,应用任务注意模块和自动编码器捕捉共同表示空间中的任务特定信息,并在全局工作区中保留任务相关信息以缓解灾难性遗忘现象。实验结果表明,该方法优于现有基于重新玩彩和动态稀疏方法的连续学习方法。
Feb, 2023
通过观察对神经网络输出的对比损失的冗余引发能力,我们的方法利用新任务的前几个样本来识别和保留对神经网络传递能力最有贡献的参数,从而使网络的其余部分能够学习新特征,并在诸如 CIFAR10 和 TinyImagenet 等基准计算机视觉数据集上证明了在任务增量、类别增量和领域增量持续学习场景中的最先进性能。
Nov, 2023
本文介绍了一种基于连续学习方法的增量知识图嵌入技术,弥补了现有嵌入技术只能处理先前已知概念的局限性,并提供了一些在知识图嵌入技术和机器人应用之间进行权衡的洞见。
Jan, 2021
提出了一种新颖的连续学习(CL)框架,通过使用有限容量的内存保存先前观察到的环境信息以减轻遗忘问题,并从内存中采样数据点来估计环境变化的风险分布,从而获得对未知变化具有鲁棒性的预测器。实验表明,该算法在所有环境中优于基于内存的 CL 基线,并显著提高了在未知目标环境中的泛化性能。
Sep, 2023
在持续学习中,为了在未来的任务中保持良好的知识转移并最小化已学任务的遗忘,必须保留和重复使用知识。本文提出了一些理论上定量和限制遗忘程度的算法,并证明了这些算法在不同模型和算法选择下都适用,同时提供了 Gibbs 后验的界限。我们根据理论提出了一种算法,并通过实证研究证明了我们的方法在正向和反向转移方面的改进。
Jun, 2024