Apr, 2022

混合预测编码：推断，快与慢

PDF
TL;DR提出了一种混合的预测编码网络，通过描述单个目标函数的双重优化，以原则性地将迭代和摊销推理结合起来，并在在仿生神经结构中实现，将受益于摊销和迭代推理的优势，同时保持迭代推理方案的上下文敏感性，精度和采样效率，在视觉感知中提供了新的功能相关性视角，并提供了视觉现象的不同方面的新见解。
predictive codingiterative inferenceamortized inferenceperceptual beliefsvisual perception
发现论文，激发创造
  • 预测编码网络中的推理和学习的理论框架

    本文主要针对预测编码理论进行理论分析，展示了其与目标传播算法的紧密联系以及在一定情况下可以取得与反向传播算法相同的泛化性能，同时保持其独特的优点。

    Jul, 2022

  • 主动预测编码：一种用于学习层次化世界模型以进行感知和规划的统一神经框架

    提出了一种新的预测编码框架，称为主动预测编码，利用超网络、自监督学习和强化学习来学习层次化的世界模型，并成功解决了细分视觉和复杂动作序列组合等多个问题。

    Oct, 2022

  • 预测编码近似计算任意计算图上的反向传播

    研究发现，通过局部学习规则，预测编码可以渐近（且实际上很快）地收敛到任意计算图上的精确反向传播梯度，这使得标准机器学习算法理论上可以直接用神经电路实现，从而为分布式神经形态结构的开发做出了贡献。

    Jun, 2020

  • 金字塔预测网络：基于预测编码理论的视觉帧预测模型

    本文介绍了一种新型的神经网络模型，它受到了流行的预测编码理论的启发，并结合了不同层次脑皮层以不同的频率振荡的理论。模型由一系列循环和卷积单元组成，上下两层流形式。该模型表现出更好的紧凑度和与现有作品相当的预测性能，表明较低的计算成本和更高的预测准确性。

    Aug, 2022

  • 预测编码：走向超越反向传播的深度学习未来？

    回传误差算法已经成为深度学习成功的基础之一，而预测编码则利用局部学习，具有潜力克服其限制并在当前深度学习技术之上发展。本文综述了有关这个问题的各种作品及其理论联系，并展示了预测编码网络相对于深度神经网络具有更高的灵活性及其在机器学习分类任务上的潜在优势以及与控制理论的紧密联系和在机器人领域的应用。

    Feb, 2022

  • 增量预测编码：并行和全自动学习算法

    本研究提出了一种名为增量预测编码（iPC）的方法，通过并行执行每个操作来解决传统预测编码方法的低效性限制，实验证明 iPC 在图像分类任务上具有与反向传播相媲美的性能，适用于计算神经科学和机器学习等领域，尤其适用于分布式计算和模拟神经元芯片上的深度学习模型的实现。

    Nov, 2022

  • 具有局部循环处理的深度预测编码网络用于对象识别

    这篇论文介绍了一种新的基于神经科学理论 “预测编码” 的神经网络，该网络包含反馈和前馈连接，能够让相邻层次间逐渐优化表征以最小化预测误差，并在图像分类和对象识别等任务上获得了具有竞争力的性能。

    May, 2018

  • 预测编码：理论和实验综述

    该论文提供了对预测编码理论的全面评估，包括其核心数学结构和逻辑以及在神经科学领域的实现和应用。该理论适用于皮层功能的统一解释，主张大脑的核心功能是通过一个世界的生成模型来减少与预测误差。

    Jul, 2021

  • 深度预测编码网络

    提出深度预测编码网络，用于学习具有动态情境感知的表征学习，实现了高效的特征提取与局部不变性表示，同时具有良好的结构噪声适应能力。

    Jan, 2013

  • 小数据中音素预测编码模型的学习分析

    本研究基于两个不同语言的数据集，研究了两种预测编码模型（APC 和 CPC）的行为，发现 CPC 模型在短时间内已经取得了更好的表现，其预测损失优化后的表现也符合语音识别领域中音素特征学习的最优化要求。

    Jul, 2020