BriefGPT.xyz
大模型
Ask
alpha
关键词
forward transfer
搜索结果 - 4
环境丰富化:连续学习中前向传递的生物模型
连续学习是指代理的能力,即能够从持续的数据流中学习并在不遗忘旧信息的情况下传递知识。本文提出环境丰富可以作为研究前向传递的生物模型,启发人类化人工智能的发展。通过提供丰富的环境刺激,动物能够展现出显著的学习速度和新任务表现的改善,这在人类中
→
PDF
2 months ago
基于扩散双生成回放的连续离线强化学习
我们研究了连续离线强化学习,这是一种实用的范例,用于前向转移和减轻灾难性遗忘,以应对顺序离线任务。我们提出了一种双生成重播框架,通过同时重播生成的伪数据来保留先前的知识。我们将连续学习策略解耦为基于扩散的生成行为模型和多头行动评估模型,使策
→
PDF
3 months ago
语言转变下的持续学习研究
对于语言模型的预训练,更新模型而不是完全重新训练,可以在新数据不断增加时提供显著的收益。本文研究了在语言转移的情况下,当新的数据来自新的语言时,更新语言模型的利与弊。通过将挪威语和冰岛语等数据逐步添加到单语英语语言模型中,我们研究了不同模型
→
PDF
8 months ago
ICLR
忘却是否是正向迁移的良好归纳偏差?
研究探讨了持续学习算法中前向传递的表现力,并考察了连续学习算法在图像分类领域的表现。结果发现,保留过去信息的表现力更好,同时这种表现力更加多样和可辨识。
PDF
a year ago
Prev
Next