神经网络动力系统模型的转化系统抽象框架
提出一个计算高效的数据驱动式混合自动机建模方法,基于多个神经网络来捕捉未知复杂系统的行为,并且采用区间分析和分裂合并过程来提供集值可达性分析,以减少可达集计算的计算成本同时不影响建模精度。
Apr, 2023
本文提出了一种基于状态空间模型的、定制化神经模型结构及两种自定义拟合标准,通过优化隐藏状态与神经网络参数以最小化测量输出和估计输出之间的差异,同时保证优化状态序列与估计系统动态一致,从而证明了该方法的有效性,进而在三个案例研究中应用于系统辨识基准测试。
Jun, 2020
神经抽象是复杂的非线性动力模型的形式近似,通过神经 ODE 和抽象神经网络与具体动力模型之间的误差的保证上界来表示。本文通过形式归纳合成过程生成动力学模型,并讨论复杂神经 ODE 的抽象以提高可达性分析的效率。
Jul, 2023
使用类型 2 推理能力的模拟人类智能的机器应该能够使用内部世界模型在多个层次的时空抽象和尺度上进行推理。本论文旨在解决人工智能和机器学习领域中存在的内部世界模型研究挑战,并提出了两种新的概率形式化方法,即隐藏参数状态空间模型和多时间尺度状态空间模型,以解决传统状态空间模型的局限性。这些概率形式化方法能够开发可扩展、自适应的分层世界模型,能够表示多个时间抽象和尺度上的非平稳动力学,并结合了世界状态的不确定性概念,从而提高系统模拟现实世界的随机性和预测结果的置信度。论文还讨论了这些形式化方法与贝叶斯大脑假设和预测处理的相关神经科学文献的一致性。我们对各种真实和模拟机器人的实验表明,我们的形式化方法在长期未来预测方面的性能与当代变压器变种相匹配,并在许多情况下超越其性能。最后,我们对当前模型的局限性进行了总结,并提出了未来研究的方向。
Apr, 2024
本文提出了一种数据驱动、模型无关的技术,用于生成一个易于人理解的摘要,概括一个演变动力系统(如控制代理的学习过程)中的显著对比要点。该技术根据信息论差异度沿时间和空间维度对转换数据进行聚合,并以图形和文本通信方法为辅助,对连续状态空间下的深度强化学习代理的学习历史进行摘要。我们期望我们的方法能够补充现有的代理可解释性技术。
Jan, 2022
通过研究完全连接前馈神经网络和卷积神经网络中的有序到混沌转变,展示了如何将合适初始化的神经网络行为理解为吸收相变中的普适临界现象,并且可以成功应用有限尺度缩放,从而导致了信号传播动力学的半定量描述。
Jul, 2023
本研究提出一种新方法,即通过学习决策模型和整合系统动力学来模拟人类运动的状态转移,其中使用生成对抗学习来学习人类运动,并在学习过程中集成了系统动力学的随机性约束。实验结果表明,该方法可以生成类似于现实世界的轨迹,并在预测下一个位置和生成长期的未来轨迹方面优于现有技术。
Mar, 2020
研究了一种多尺度的树形递归开关线性动态系统,使用贝叶斯采样程序和 Polya-Gamma 数据增强实现贝叶斯推断。这种模型旨在同时提供可解释的描述和更准确的预测,通过一系列合成和真实的案例,展示了这种模型在解释性和预测能力上优于现有的方法。
Nov, 2018
本文提出一种基于多任务学习框架的多层次转移动态方法(MTD), 通过位置感知的注意机制和图结构层次关系编码器,可以在自动和分层的方式下,共同学习会话内和会话间的项目转移动态。
Oct, 2021