Oct, 2022

主动预测编码：一种用于学习层次化世界模型以进行感知和规划的统一神经框架

PDF
TL;DR提出了一种新的预测编码框架，称为主动预测编码，利用超网络、自监督学习和强化学习来学习层次化的世界模型，并成功解决了细分视觉和复杂动作序列组合等多个问题。
发现论文，激发创造
  • 主动预测编码网络：解决学习参考框架和部分整体层次的神经方案

    本文介绍了 Active Predictive Coding Networks（APCNs），一种新的神经网络类别，用于解决神经网络如何学习对象的内在参考框架并将视觉场景解析为部分整体层次结构的主要问题。

    Jan, 2022

  • 世界模型和预测编码在认知和发展机器人学中的应用：挑战与前沿

    本文探讨了人工智能和机器人的世界模型和预测编码的关系及其在机器人认知发展中的作用，旨在为实现具有真正认知和发展能力的机器人打下基础。

    Jan, 2023

  • 深度预测编码网络

    提出深度预测编码网络，用于学习具有动态情境感知的表征学习，实现了高效的特征提取与局部不变性表示，同时具有良好的结构噪声适应能力。

    Jan, 2013

  • 金字塔预测网络：基于预测编码理论的视觉帧预测模型

    本文介绍了一种新型的神经网络模型，它受到了流行的预测编码理论的启发，并结合了不同层次脑皮层以不同的频率振荡的理论。模型由一系列循环和卷积单元组成，上下两层流形式。该模型表现出更好的紧凑度和与现有作品相当的预测性能，表明较低的计算成本和更高的预测准确性。

    Aug, 2022

  • 深度预测编码网络用于视频预测和无监督学习

    通过建立一个具有预测编码特点的预测神经网络 (PredNet)，本文探讨了将预测未来的视频帧作为无监督学习的规则来学习视觉世界结构的问题。 在对计算机生成的物体的运动进行鲁棒的学习的同时，也能够缩短学习视野并从中获得内部表示。此外，这种网络架构也能够将检测到的流和视觉场景中的物体运动进行深度学习，为估算自我位置提供支持。 综上所述，预测是无监督学习的强大框架之一，能够进行隐式的物体和场景结构学习。

    May, 2016

  • 预测编码：走向超越反向传播的深度学习未来？

    回传误差算法已经成为深度学习成功的基础之一，而预测编码则利用局部学习，具有潜力克服其限制并在当前深度学习技术之上发展。本文综述了有关这个问题的各种作品及其理论联系，并展示了预测编码网络相对于深度神经网络具有更高的灵活性及其在机器学习分类任务上的潜在优势以及与控制理论的紧密联系和在机器人领域的应用。

    Feb, 2022

  • 预测编码网络中的推理和学习的理论框架

    本文主要针对预测编码理论进行理论分析，展示了其与目标传播算法的紧密联系以及在一定情况下可以取得与反向传播算法相同的泛化性能，同时保持其独特的优点。

    Jul, 2022

  • 基于预测编码和不确定性最小化的主动感知

    运用预测编码和不确定性最小化两种生物启发式计算方式，提出了一种端到端的嵌入式探索过程，可用于解决任务无关的探索问题。在迷宫导航和积极视觉任务中，我们的模型均能够通过建立无监督表示，对感知场景进行主动采样、高效分类，学习效率更高、数据效率更高。此外，模型的模块化设计允许分析其内部机制以及在探索行为中，感知与行动之间的相互作用。

    Jul, 2023

  • 虚拟环境的自动映射与视觉预测编码

    预测编码为构建认知地图的统一算法框架，并能通过视觉信息定位环境中的位置。

    Aug, 2023

  • 增量预测编码：并行和全自动学习算法

    本研究提出了一种名为增量预测编码（iPC）的方法，通过并行执行每个操作来解决传统预测编码方法的低效性限制，实验证明 iPC 在图像分类任务上具有与反向传播相媲美的性能，适用于计算神经科学和机器学习等领域，尤其适用于分布式计算和模拟神经元芯片上的深度学习模型的实现。

    Nov, 2022