预测编码:理论和实验综述
回传误差算法已经成为深度学习成功的基础之一,而预测编码则利用局部学习,具有潜力克服其限制并在当前深度学习技术之上发展。本文综述了有关这个问题的各种作品及其理论联系,并展示了预测编码网络相对于深度神经网络具有更高的灵活性及其在机器学习分类任务上的潜在优势以及与控制理论的紧密联系和在机器人领域的应用。
Feb, 2022
本文介绍了一种新的技术,它利用预测编码在结构性因果模型上进行端到端因果推断,并在机器学习中展示其实用性,且通过将预测编码推广到无法从数据推断因果关系图的情况下实现因果发现。
Jun, 2023
本文主要针对预测编码理论进行理论分析,展示了其与目标传播算法的紧密联系以及在一定情况下可以取得与反向传播算法相同的泛化性能,同时保持其独特的优点。
Jul, 2022
人工智能(AI)是本世纪迅速发展的关键技术之一。然而,使用误差反向传播学习算法训练的深度神经网络在 AI 领域取得的大多数成果已经凸显出一些重要限制,例如计算成本高、难以量化不确定性、缺乏鲁棒性、不可靠性和生物不可行性。解决这些限制可能需要受到神经科学理论启发和指导的方案。其中一种理论称为预测编码(PC),在机器智能任务中表现出有希望的性能,具有令人兴奋的特性,对机器学习社区具有潜在价值:PC 可以模拟大脑不同区域的信息处理,可用于认知控制和机器人学,并具有基于变分推断的坚实数学基础,为某类连续状态生成模型提供了强大的反演方案。希望通过调研有助于这一方向的文献,突出展示 PC 在机器学习和计算智能的未来中可能发挥的多种作用。
Aug, 2023
提出了一种用于神经解码和脑预测的新模型 extsc {PredFT},它结合了主要解码网络和用于预测编码的辅助网络,并通过交叉注意力将脑预测编码表示融入主要解码网络以促进语言模型的生成过程。在最大 BLEU-1 分数为 27.8% 的自然语言理解 fMRI 数据集 Narratives 上进行了实验,取得了当前最先进的解码性能。
May, 2024
研究发现,通过局部学习规则,预测编码可以渐近(且实际上很快)地收敛到任意计算图上的精确反向传播梯度,这使得标准机器学习算法理论上可以直接用神经电路实现,从而为分布式神经形态结构的开发做出了贡献。
Jun, 2020
本文介绍了一种新型的神经网络模型,它受到了流行的预测编码理论的启发,并结合了不同层次脑皮层以不同的频率振荡的理论。模型由一系列循环和卷积单元组成,上下两层流形式。该模型表现出更好的紧凑度和与现有作品相当的预测性能,表明较低的计算成本和更高的预测准确性。
Aug, 2022
探讨预测编码 (PC) 算法是否能替代误差反向传播算法 (backpropagation),研究发现当前 PC 算法的潜在能力受限于时间复杂度较大等问题。
Apr, 2023
本文探讨了人工智能和机器人的世界模型和预测编码的关系及其在机器人认知发展中的作用,旨在为实现具有真正认知和发展能力的机器人打下基础。
Jan, 2023
提出了一种新的预测编码框架,称为主动预测编码,利用超网络、自监督学习和强化学习来学习层次化的世界模型,并成功解决了细分视觉和复杂动作序列组合等多个问题。
Oct, 2022