神经振荡器是普适的
该研究提出了一种新方法,通过融合系统常微分方程所基于的神经振荡器,有效地捕捉长期依赖关系并解决爆炸梯度问题,从而增强了物理先验机器学习模型在复杂物理问题中的泛化能力。通过在时间依赖的非线性偏微分方程和双调和梁方程中进行实验,证明了该方法在基准问题上的优越性能,显著提高了物理先验机器学习的泛化能力,为训练数据之外的外推和预测提供了准确的解决方案。
Aug, 2023
通过开发基于普通微分方程的递归神经网络 (RNN) 方法来建模和量化滞后现象,这一研究突出了神经振荡器相对于传统 RNN 方法在捕捉磁性材料中复杂滞后模式方面的优势。
Aug, 2023
本文中提出基于神经振荡器非线性控制网络的二阶常微分方程模型时间离散化的递归神经网络,证明其对于隐藏状态的梯度具有精确的上限,解决了梯度问题,实验证明该递归神经网络在处理复杂的时序数据上具有稳定和准确的性能,达到了现有技术水平。
Oct, 2020
耦合振子在任意图上本地驱动其相互同步的趋势,但通常会在整个图上表现出非线性行为。本文中,我们展示了这种耦合振子的非线性行为可以在某些潜在动态空间中被有效线性化。我们提出了基于监督矩阵分解的算法来学习这些潜在动态过滤器。我们的方法在同步预测任务中表现出竞争力,尽管其结构简单且可解释。
Nov, 2023
我们提出了一种新颖的、受大脑启发的深度神经网络模型,称为深层振荡神经网络 (DONN)。DONN 具有振荡内部动态,可以在信号和图像 / 视频处理的多个基准问题上提供与已发表结果相当或更好的性能。
May, 2024
利用混沌非线性吸引子实现低功耗的模拟计算方法,作为机器学习任务的通用平台提供卓越的性能,能够以毫瓦级功率与当前机器学习技术媲美,适用于聚类、回归和分类学习任务。
Sep, 2023
此研究提出了一种被称为非局部神经算子(NNO)的候选算子, 允许在任意几何空间中对算子进行逼近,因此包括傅里叶神经算子(FNO)作为一个特例并展示了这个理论结果统一了广泛的神经算子结构的分析。
Apr, 2023
我们提出使用 Kuramoto 模型(包括其高维推广)在非欧几里德数据集上进行机器学习的想法,这些模型是描述抽象粒子(广义振子)在球面、齐次空间和李群上的集体运动(群集动力学)的矩阵 ODE 系统。我们还对提供几何深度学习中的概率建模和推理的适当统计模型的概念进行了概述,我们主张使用在粒子的连续极限中出现在不同 Kuramoto 模型中的统计模型。最方便的概率分布族是那些对于某些对称群的作用具有不变性的分布族。
May, 2024
神经网络在计算高振荡一维函数的积分方面具有高效的 FLOP 效率,在相同的计算预算或浮点操作数量下,神经网络比传统的求积方法更好地计算了这些振荡积分。我们的结果来自于神经网络学习了传统数值积分器无法发现的振荡积分中的潜在模式。
Apr, 2024
利用物理波动的动力学和循环神经网络之间的映射,我们设计了一种基于波动物理模型的模拟机器学习硬件平台,可以训练物理波系统来学习时间序列数据的复杂特征,并在声波传播的不均匀介质中完成原始语音信号的元音分类任务,标准的数字实现也可以在性能上得到可比较的表现。
Apr, 2019