脉冲扩散：基于脉冲神经网络的向量量化离散扩散模型

Aug, 2023

脉冲扩散：基于脉冲神经网络的向量量化离散扩散模型

Spiking-Diffusion: Vector Quantized Discrete Diffusion Model with Spiking Neural Networks

Mingxuan Liu, Rui Wen, Hong Chen

TL;DR我们提出了一种基于脉冲扩散模型的脉冲神经网络，通过向量量化离散扩散模型和 SNNs 的结合，实现对图像的表达和去噪，实验证明它在多个数据集上的性能优于现有的 SNN 生成模型。

Abstract

spiking neural networks (SNNs) have tremendous potential for energy-efficient neuromorphic chips due to their binary and event-driven architecture. SNNs have been primarily used in classification tasks, but limited exploration on image generation tasks. To fill the gap, we propose a

spiking neural networks energy-efficient neuromorphic chips spiking-diffusion model vector quantized variational autoencoder snn-based generation model

发现论文，激发创造

SDiT：具有 Transformer 的脉冲扩散模型

本研究探索了一种新的扩散模型结构，利用变压器替代传统扩散模型中常用的 U-net 结构，以提供基于脉冲神经网络的生成模型的实证基线。实验结果表明，所提出的方法在 MNIST，Fashion-MNIST 和 CIFAR-10 数据集上与现有的脉冲神经网络生成模型具有很高的竞争力。

Feb, 2024

脉冲去噪扩散概率模型

本文提出了一种新的基于脉冲神经网络的生成模型 ——SDDPM，通过仅使用 4 个时间步骤的纯脉冲 U-Net 体系结构，实现与其 ANN 模型的可比性能，从而充分利用脉冲神经网络的能源效率，并在 CIFAR-10 和 CelebA 数据集上实现了卓越的性能，是脉冲神经网络生成领域的重大进展。

Jun, 2023

完全脉冲去噪扩散隐式模型

提出了一种基于脉冲神经网络的全脉冲去噪扩散隐式模型（FSDDIM）的方法，利用脉冲神经网络的高速和低能耗特性构建扩散模型，并通过突触电流学习实现扩散模型的生成过程，实验结果表明该方法优于最先进的全脉冲生成模型。

Dec, 2023

Q-SNNs: 量化尖峰神经网络

我们介绍了一种轻量级和硬件友好的量化 SNN（Q-SNN），该方法对突触权重和膜电位进行量化，显著减少内存使用和计算复杂性，提出了一种受信息熵理论启发的新的权重 - 脉冲双重调节（WS-DR）方法，实验证明我们的 Q-SNN 在模型大小和准确性方面优于现有方法，这些在效率和功效方面的最新成果表明该方法可以显着改善边缘智能计算。

Jun, 2024

全脉冲变分自编码器

本文提出了基于脉冲神经网络（SNN）和变分自编码器（VAE）的全脉冲变分自编码器，架构中所有模块的构建都采用 SNN，可以在边缘设备上生成高质量图像，相较于传统人工神经网络，具有更好的表现。

Sep, 2021

文本到图像的向量量化扩散模型

本论文提出了基于矢量量化扩散模型的文本到图像生成方法，在扩散条件变量程序模型的潜在空间中建模基于矢量量化变分自编码器的方法，消除了现有方法中的单向偏差，并允许我们结合掩模和替换扩散策略以避免误差积累，其结果在生成复杂场景的图像方面得到了显着的改进。

Nov, 2021

神经形态硬件上的超低功耗图像分类

基于时间编码的 ANN 到 SNN 转换方法 Quartz 在神经形态硬件上实现了高分类准确性，通过时间编码在功耗、吞吐量和延迟方面具有优势。

Sep, 2023

深入探究脉冲神经网络：VGG 和残差结构

本研究提出一种新颖算法技术生成深度架构的 Spiking Neural Networks，此算法应用于 VGG 和 Residual 网络架构并在 CIFAR-10 和 ImageNet 等图像识别问题上取得了显著的准确率提高，同时证明在 spiking 领域内的稀疏 event-driven 计算可减少硬件开销。

Feb, 2018

改进的向量量化扩散模型

本文提出两种技术，即分类器无指导采样和高质量推理策略，以进一步提高 VQ-Diffusion 样本质量，实验证明改进的 VQ-Diffusion 显著优于原始版本。

May, 2022

量子去噪扩散模型

本研究探讨了量子机器学习和变分量子电路的整合，以增强扩散式图像生成模型的效力，并通过 MNIST 数字，Fashion MNIST 和 CIFAR-10 对两种量子扩散模型进行了基准测试，结果显示我们的模型在性能指标 FID、SSIM 和 PSNR 方面超越了传统模型。此外，我们还引入了一种一致性模型单一采样架构，将扩散过程合并为一步，实现了快速一步图像生成。

Jan, 2024