终身教师 - 学生网络学习
本文介绍了一种基于学生 - 教师 VAE 架构的无监督生成建模的终身学习方法,通过引入一种新的跨模型正则化器,以减少神经网络在连续学习情况下面临的灾难性干扰,并在多个数据集上验证了其性能。
May, 2017
本研究利用变分自编码器(vae)设计了一种高效有效的终身生成模型,通过扩展 vae 的内在重构特性到历史知识保留,开发了一种反馈策略来减轻错误积累,实验结果验证了该方法在终身生成任务中的有效性。
Jan, 2022
本文研究了生成模型中的终身学习问题,提出了一种使用知识蒸馏的解决方案,可以在保持之前任务能力不变的同时完成新的任务,该方法适用于不同的有条件图像生成设置。
Jul, 2019
终身学习对于人类和动物至关重要,然而,在机器学习和神经网络模型中,随着不断获取非静态数据分布的信息,由于 “灾难性遗忘” 或干扰而面临着困难。本论文对于人类生物系统中的终身学习因素进行了总结,并比较了现有神经网络方法的差异。
Feb, 2018
本文提出了一种双存储自组织架构用于实现终身学习,其中包含具有学习物体实例和类别的互补任务的两个增长式重复神经网络;通过在连续感官经历中扩展它们,这两个增长网络都能够提取出对未知数据更强的特征。
May, 2018
本论文提出了一种新颖的终身学习方法 L-VAEGAN,它不仅具有强大的生成重放网络,还学习有意义的潜在表征,并能够自动将与不同领域相关的信息嵌入到潜在空间的多个聚类中,捕获不同数据域之间的语义相关的共享潜在变量,支持许多传统的生成重放方法所不支持的下游任务,包括不同数据域之间的内插和推理。
Jul, 2020
我们设计了一种名为 Dual Cognitive Architecture (DUCA) 的新型框架,它结合了人类认知的多个因素,包括认知计算结构、认知偏差和多记忆系统,并具备多个子系统、内隐和显性知识表示二分法、归纳偏差以及多记忆系统功能,它在各种场景和数据集上表现出改进,并且它还展示了对于挑战性分布转移的优异性能。
Oct, 2023
本文介绍了一种基于 Expert 网络的终身学习模型,引入了一组门控自编码器在测试时将样本自动转发到相关专家,从而具有内在的内存效率和任务相关性。并使用图像分类和视频预测问题进行了实验评估。
Nov, 2016