NIPSDec, 2016

通过尖锐时间依赖可塑性学习二进制或实值时间序列

PDF
TL;DR本文提出了一种动态玻尔兹曼机作为脉冲神经网络的模型，通过放松一些约束条件使其更适合计算和学习，并且将其学习过程视为二值时间序列的逻辑回归或高斯玻尔兹曼机，结果表明高斯玻尔兹曼机能够通过使用额外的解释变量来捕捉时间序列的长期依赖性并显著提高预测准确性。
dynamic boltzmann machinespiking neural networklogistic regressiongaussian dybmvector autoregressive model
发现论文，激发创造
  • 时间序列的玻尔兹曼机

    本文综述了针对时间序列扩展的玻尔兹曼机，介绍了后向传递算法通过时间学习参数的实现。此外，为了解决在线学习中 BPTT 的计算复杂度随着时间序列长度的线性增长的问题，介绍了动态玻尔兹曼机（DyBM）及其基于时间本地性的学习规则，该规则与生物神经网络中的时序相关可塑性（STDP）有关，并被实验证实。

    Aug, 2017

  • BP-STDP: 使用时序相关可塑性近似反向传播

    本文提出一种基于事件驱动的脉冲时序依赖可塑性 (Spike-Timing-Dependent Plasticity, STDP) 规则的监督学习方法，可以在保持计算精度的同时提高计算效率，特别适用于脉冲神经网络 (Spiking Neural Networks, SNNs)。实验结果表明，该方法可以较好地处理 XOR 问题、鸢尾花数据以及 MNIST 数据集，表现与传统神经网络相当，甚至比目前最先进的多层 SNNs 效果更好。

    Nov, 2017

  • 面向脉冲神经形态系统的事件驱动对比散度

    通过神经抽样实现基于脉冲神经元和 STDP 联合训练的漏电 I&F 受限玻尔兹曼机，并在 MNIST 数据集上进行测试，旨在推进用于合成实用的高级功能的脉冲神经元网络的机器学习驱动方法。

    Nov, 2013

  • 基于 STDP 的突触可塑性神经网络有监督学习算法

    本文提出了一种基于 Spike-Timing Dependent Plasticity (STDP) 的监督学习算法，用于基于 Leaky Integrate-and-fire (LIF) 神经元的分层 Spiking Neural Networks。该算法经 MNIST 数据集训练后，分类精度接近于使用标准反向传播算法训练的类似结构的多层感知器模型。

    Mar, 2022

  • 动态玻尔兹曼机用于二阶矩和广义高斯分布

    本文介绍了如何扩展动态玻尔兹曼机算法以适用于金融时间序列数据的预测，并取得了显著的性能改进。

    Dec, 2017

  • 一种基于对称 STDP 规则的脉冲神经网络生物学可行的监督学习方法

    本文提出了一种基于神经科学中对称性脉冲定时相关塑性规则的生物可行的 SNN 模型，该模型结合生物可行的突触缩放和动态阈值的内在可塑性来实现监督学习，并在标准识别任务中实现了良好的性能，其学习规则基于局部脉冲事件，因此可以轻松应用于神经形态硬件，有助于理解生物神经系统内部的监督学习信息处理机制。

    Dec, 2018

  • Desire Backpropagation: 基于时序相关塑性的多层脉冲神经网络的轻量级训练算法

    该论文介绍了一种名为 desire backpropagation 的方法，它利用 STDP 的权重更新，实现了全局误差最小化和分类准确率的提高；同时，该方法具有 STDP 的神经动力学和计算效率，是一种基于脉冲的监督学习规则。作者使用 desire backpropagation 对 MNIST 和 Fashion-MNIST 图像进行了分类，实验效果良好。

    Nov, 2022

  • 基于时序相关增强塑性的深度无监督学习

    使用深度 - STDP 框架，将卷积网络与由 STDP 聚类过程生成的伪标签同时训练，相比于 k-means 聚类方法，在小型图像数据集上准确度提高了 24.56％且收敛速度提高了 3.5 倍。

    Jul, 2023

  • 脉冲神经网络实现生物学上可行的序列学习

    提出了一种新的持续时间模型 ——McCulloch-Pitts 网络 (MPN)， 用于序列学习，在棘突神经网络中，可以利用突触之间的不对称连接进行训练，能够稳健地记忆多个时空模式、二进制图片序列和实验神经脉冲数据的产生模型，并具有生物启发式的设计理念。

    Nov, 2019

  • 电压依赖性突触可塑性（VDSP）：基于神经元膜电位的无监督概率赫比规则

    本文提出了一种基于脑类的无监督局部学习规则 VDSP，旨在在神经形态硬件上在线实现 Hebb 氏可塑性机制。该规则能够有效降低权值上的爆炸或消失，并且证明了在手写数字识别任务方面，其具有明显的优越性。

    Mar, 2022