knowledge consolidation | BriefGPT

关键词knowledge consolidation

搜索结果 - 6

踏出并探索：关于使用增量数据进行热启动训练
通过知识整合和获取（CKCA）算法，我们提出了适用于深度学习应用的连续模型改进方法，旨在在不损害先前知识的前提下，更好地适应新数据，并采用两个新组件：特征规范化（FeatReg）和自适应知识蒸馏（AdaKD）。在 ImageNet 数据集上
PDFa month ago
具有向后兼容性的终身个体再识别
我们提出了具备向后兼容性的一种连续学习人员重识别模型，通过引入跨模型兼容性损失和知识整合方法，实现在连续到来的数据集上训练模型时对先前训练的旧模型的向后兼容性。实验结果表明，与现有方法相比，所提出的方法在向后兼容性方面取得了显着提高的性能，
PDF4 months ago
适应和对齐：生成模型潜空间对齐的持续学习
利用生成模型中的潜在表示对神经网络进行迭代学习的 Adapt & Align 方法在论文中被介绍。该方法通过将生成模型的潜在表示对齐，解决了神经网络在重新训练时由于来自不同分布的额外训练数据而出现的性能突然下降的问题，并通过利用全局模型对局
PDF6 months ago
EpiK-Eval: 评估作为知识模型的语言模型
通识大语言模型（LLMs）在人工智能时代的作用越来越核心，本文探讨了 LLMs 的能力，将不同的训练文档中的知识进行整合，以提高它们的整体有效性和性能。通过引入一个问题回答基准测试，作者发现现有的 LLMs 在这方面存在显著弱点，呼吁改进知
PDF8 months ago
为终身机器学习生成准确的虚拟实例
本研究旨在解决终身机器学习模型在接收新信息而不影响先前学习经验的情况下的知识整合问题，在不使用先前任务的训练示例的情况下，通过任务练习方式创建一个知识整合网络，同时使用训练后的 Restricted Boltzmann Machine 所产
PDFa year ago
AAAI通过知识更新和巩固实现终身人员重新识别
提出了一种名为 Lifelong person re-identification (LReID) 的方法，通过知识刷新和巩固（KRC）模型进行学习，以实现对旧任务的记忆保持和对新旧任务的正向和反向迁移。
PDF2 years ago