Nov, 2023

神经科学启发的科学机器学习（第二部分）：可变脉冲小波神经运算器

PDF
TL;DR我们提出了一种可变尖峰小波神经运算器 (VS-WNO)，旨在消除在力学应用中人工智能算法的理论与实际实现之间的差距。该算法基于尖峰神经网络的原理，具备节省能量的潜力，并能应对力学领域中经常遇到的回归任务。通过与使用泄漏整合和火神经元（直接和编码输入）的小波神经运算器及使用人工神经元的基准小波神经运算器进行对比，实验结果表明了该 VS-WNO 算法在促进稀疏通信的同时能够收敛到真值。
variable spiking wavelet neural operatorartificial intelligence algorithmsmechanics applicationsspiking neural networksedge computing
发现论文，激发创造
  • 一个基础的神经算子，持续学习且无遗忘

    本研究引入了神经组合小波神经算子（NCWNO）的概念作为科学计算的基础模型，该模型专为学习各种物理学中的解算符，并能快速适应新的挑战，同时在新的参数化偏微分方程上保持积极的迁移，通过一系列基准测试例子证明了 NCWNO 在预测阶段能够超过特定任务基准的算子学习框架。

    Oct, 2023

  • 神经科学启发的科学机器学习 (第一部分): 变量尖峰神经元用于回归

    本论文介绍了一种称为变量尖峰神经元（VSN）的新型尖峰神经元，它可以通过借鉴生物神经元的漏积分与发射尖峰神经元（LIF-SN）的概念，减少冗余激发，同时保持能源预算低，并在分类和回归任务中取得了良好的结果。

    Nov, 2023

  • 生成流引导的神经架构搜索：探索小波神经算子中的最佳结构

    我们提出了一种生成的流诱导神经架构搜索算法，使用简单的前馈神经网络学习随机策略生成超参数序列，通过最小化流违规和最大化终态奖励来训练架构搜索策略，在流之中生成了小波基础和激活序列，并通过流的生成路径来提高神经算子性能。

    May, 2024

  • DPA-WNO：一类随机力学问题的灰箱模型

    提出了一种新颖的可微分物理增强小波神经算子 (DPA-WNO) 框架，该框架利用数据驱动模型纠正 / 识别缺失的物理，以解决时间依赖性不确定性量化问题。使用所提出的方法解决了来自科学和工程各个领域的四个基准不确定性量化和可靠性分析问题，并展示了结果。

    Sep, 2023

  • 生成对抗小波神经运算器：多变量时间序列数据的故障检测和隔离应用

    提出了一种新的无监督深度学习方法，即生成对抗小波神经算子（GAWNO），用于多元时间序列过程的故障检测和隔离。该方法结合了小波神经算子和生成对抗网络（GANs）的优势，有效地捕捉底层系统中不同变量的时间分布和空间依赖关系，并通过基于重构误差的阈值方法来检测和隔离故障。通过在正常操作条件下的数据集上训练 GAWNO，并使用 Tennessee Eastman Process（TEP）数据集、Avedore 污水处理厂（WWTP）和 WWTPN2O 数据集验证了所提出的方法，结果显示相比文献中各种建立良好基线，将小波分析、神经算子和生成模型结合到一个框架中以检测和隔离故障的想法得到了有希望的结果。

    Jan, 2024

  • 低功耗神经形态处理硬件

    本文回顾了构建新一类仿效人脑以时间编码和处理信息的信息处理引擎所涉及的一些体系结构和系统级设计方面，以解决能效问题。

    Jan, 2019

  • 图波神经网络

    我们提出了一种图波形神经网络（GWNN），通过使用图小波变换来解决以往依赖于图傅里叶变换的图谱卷积神经网络（CNN）方法的缺点，这些方法需要进行高计算成本的矩阵特征分解。与图傅里叶变换不同的是，图小波变换可以通过快速算法获得，无需矩阵特征分解。此外，图小波在顶点域中稀疏且局部化，可以提供高效性和良好的图卷积可解释性。经过实验，GWNN 在三个基准数据集上均明显优于以往的图谱 CNNs，在图半监督分类任务上具有更好的性能。

    Apr, 2019

  • 使脉冲神经网络工作：稳健的类脑无监督机器学习

    该文章讨论了 Spiking Neural Networks (SNNs) 的局限性，介绍了一种方法来解决这些问题使用无监督学习来快速发现输入数据中的稀疏可识别特征，使 SNNs 成为一种使用未标记数据进行快速、准确、高效、可解释和可重新部署的机器学习的新方法。

    Aug, 2022

  • 预测三维地震波传播的傅里叶神经算子代理模型

    本文介绍了利用神经算子和傅里叶神经算子在三维地震学中进行高保真数值模拟并模拟地面运动时系列的应用。模型可以用于评估地质特征对地面运动的影响，特别是介于中等和大范围的区间的地面运动强度。

    Apr, 2023

  • 神经算子的散射问题

    最近，机器学习的最新发展提出了一种被称为神经算子的神经网络架构，能够近似函数空间之间的映射关系。我们以应用于基础物理学为目标，研究了它们在量子力学的散射过程中的应用。我们使用傅里叶神经算子的迭代变体来学习 Schrödinger 算子的物理性质，它将初始波函数和势能映射到最终波函数。这些深度算子学习的想法在两个具体问题中进行了测试：一个是在 $1+1$ 维度中预测波包散射在中心势场中的时间演化的神经算子，另一个是在 $2+1$ 维度中的双缝实验。在推断过程中，与传统的有限差分求解器相比，神经算子可以提高数个数量级的计算效率。

    Aug, 2023