predictive coding (PC) is a brain-inspired local learning algorithm that has
recently been suggested to provide advantages over backpropagation (BP) in
biologically relevant scenarios. While theoretical work has mainly focused on
showing how PC can approximate BP in various limits, the
人工智能(AI)是本世纪迅速发展的关键技术之一。然而,使用误差反向传播学习算法训练的深度神经网络在 AI 领域取得的大多数成果已经凸显出一些重要限制,例如计算成本高、难以量化不确定性、缺乏鲁棒性、不可靠性和生物不可行性。解决这些限制可能需要受到神经科学理论启发和指导的方案。其中一种理论称为预测编码(PC),在机器智能任务中表现出有希望的性能,具有令人兴奋的特性,对机器学习社区具有潜在价值:PC 可以模拟大脑不同区域的信息处理,可用于认知控制和机器人学,并具有基于变分推断的坚实数学基础,为某类连续状态生成模型提供了强大的反演方案。希望通过调研有助于这一方向的文献,突出展示 PC 在机器学习和计算智能的未来中可能发挥的多种作用。