- 泊松变分自编码器
本文介绍了一种结合了预测编码原理和将输入编码为离散脉冲计数的变分自编码器(P-VAE)的新型架构,通过引入 Poisson 分布的潜变量和预测编码,模型损失函数中出现了代谢成本项,表明与稀疏编码存在关系,我们通过实证验证了这一点。此外,我们 - 利用 fMRI 数据的大脑预测编码进行语言重建
提出了一种用于神经解码和脑预测的新模型 extsc {PredFT},它结合了主要解码网络和用于预测编码的辅助网络,并通过交叉注意力将脑预测编码表示融入主要解码网络以促进语言模型的生成过程。在最大 BLEU-1 分数为 27.8% 的自然 - CogDPM: 利用认知预测编码实现的扩散概率模型
预测编码是认知科学中的一个理论框架,该研究引入了认知扩散概率模型(CogDPM)来展示扩散概率模型和预测编码理论之间的联系,通过使用精度加权机制估计数据可预测性,CogDPM 在实际预测任务中表现出更为出色的性能。
- 基于几何和时间条件的长期期货预测
该研究旨在通过预测编码的概念以及诸如自动驾驶车辆之类的机器人应用,探索基于过去条件下生成未来传感器观测的任务。研究重点在于解决多模态未来视频建模的挑战,并利用图像扩散模型的大规模预训练来处理计算代价昂贵的视频处理问题。通过时间戳条件生成更好 - 深度预测编码网络中的分类和重构过程:对手还是盟友?
预测编码启发下的深度网络将分类和重构过程整合到共享中间层中,并详细分析了分类和重构在深度学习架构中的相互作用,发现分类驱动的信息与重构驱动的信息在共享表示层中相互影响。
- 用朗之万动力学进行预测编码采样
我们提出了一种新颖的算法,用于在通用深度生成模型中学习参数,该算法基于计算神经科学的预测编码 (PC) 框架。通过将高斯噪声注入 PC 推理过程,我们重新构想它作为过阻尼 Langevin 采样,从而实现对紧密证据下界 (ELBO) 的优化 - 虚拟环境的自动映射与视觉预测编码
预测编码为构建认知地图的统一算法框架,并能通过视觉信息定位环境中的位置。
- 通过预测编码实现脑启发型计算智能
人工智能(AI)是本世纪迅速发展的关键技术之一。然而,使用误差反向传播学习算法训练的深度神经网络在 AI 领域取得的大多数成果已经凸显出一些重要限制,例如计算成本高、难以量化不确定性、缺乏鲁棒性、不可靠性和生物不可行性。解决这些限制可能需要 - 基于动画的视频压缩的预测编码
基于图像动画的视频压缩方法,通过使用预测编码方案和图像动画作为预测器,以及针对实际目标帧的残差编码,有效地提高压缩率,与 HEVC 和 VVC 相比可获得超过 70% 和 30% 的比特率增益。
- 基于预测编码和不确定性最小化的主动感知
运用预测编码和不确定性最小化两种生物启发式计算方式,提出了一种端到端的嵌入式探索过程,可用于解决任务无关的探索问题。在迷宫导航和积极视觉任务中,我们的模型均能够通过建立无监督表示,对感知场景进行主动采样、高效分类,学习效率更高、数据效率更高 - 通过预测编码进行因果推断
本文介绍了一种新的技术,它利用预测编码在结构性因果模型上进行端到端因果推断,并在机器学习中展示其实用性,且通过将预测编码推广到无法从数据推断因果关系图的情况下实现因果发现。
- 理解预测编码作为自适应信任域方法
本文提出了一种关于预测编码的深度学习算法,将其解释为一种与误差反向传播不同的自适应信任域算法,并在浅层线性模型和深度网络实验中验证了该算法可以更快地逃离鞍点。
- 时间预测编码的顺序记忆
研究提出了一种基于预测编码(PC)的时间预测编码(tPC)模型,它可以通过生物学上可行的神经实现精确地记忆和检索连续的输入,tPC 具有一个隐含的统计白化过程,可以更稳定地处理结构化输入流,并且在多层结构下编码了上下文依赖信息,从而区分出现 - 预测编码作为神经形态学替代反向传播的关键评估
探讨预测编码 (PC) 算法是否能替代误差反向传播算法 (backpropagation),研究发现当前 PC 算法的潜在能力受限于时间复杂度较大等问题。
- 具有增强目标信息的学习:反馈对齐的另一种理论
该研究提出了一种基于信息理论的新颖理论,解释了反馈对齐(Feedback Alignment)是如何通过将目标信息嵌入到神经网络中来学习有效表示,其表现与 BP 算法相比,且还考虑到了生物学方面的现象和理论,例如预测编码和表征漂移。
- CVPRCASP-Net: 从音视感官一致性角度重新思考视频显著性预测
本研究提出了一种考虑视听语义交互和一致性感知的一致性感知音视频显著性预测网络(CASP-Net)以及用于改善不一致性的新颖一致性感知预测编码,使用多尺度音视频信息,生成显著性地图。该方法在六个具有挑战性的视听跟踪数据集上性能表现优于其他最先 - 曲率敏感的预测编码及其近似拉普拉斯蒙特卡洛实现
通过将预测编码视为拉普拉斯近似下的变分贝叶斯算法,我们发现其目标函数中排除与之关联的 Hessian 项是其性能不佳的根源。借此,我们提出了三个主要贡献:提出了一个简单的蒙特卡罗估计证据下界,该证据下界依赖于从 Hessian 参数化的变分 - 世界模型和预测编码在认知和发展机器人学中的应用:挑战与前沿
本文探讨了人工智能和机器人的世界模型和预测编码的关系及其在机器人认知发展中的作用,旨在为实现具有真正认知和发展能力的机器人打下基础。
- AAAI面向缺失模态鲁棒性行为识别的良好实践
本文针对多模态动作识别及其中一些模态不可用情况提出一套良好的实践方法,包括数据增强、基于 Transformer 的融合方法以及一个名为 ActionMAE 的模块化网络。通过采用这些方法,建立一个不仅在多模态动作识别中有效,同时对于模态缺 - 增量预测编码:并行和全自动学习算法
本研究提出了一种名为增量预测编码(iPC)的方法,通过并行执行每个操作来解决传统预测编码方法的低效性限制,实验证明 iPC 在图像分类任务上具有与反向传播相媲美的性能,适用于计算神经科学和机器学习等领域,尤其适用于分布式计算和模拟神经元芯片