Aug, 2023

使用拉格朗日技术对连续深度模型进行鲁棒性分析

PDF
TL;DR本文提出一种统一的确定性和统计性 Lagrangian 验证技术，用于量化任何连续时间过程的行为鲁棒性，故文中回顾了 LRT-NG，SLR 和 GoTube 算法，比较了确定性和统计性保证的不同方法，并通过实验证明 Lagrangian 技术在连续深度模型的鲁棒性分析中的卓越性能。
lagrangian-verification techniquesreachtube boundsvariational equationslipschitz constantsrobustness analysis
发现论文，激发创造
  • GoTube：连续深度模型的可扩展随机验证

    引入了一种新的随机验证算法，它正式量化任何时间连续过程的行为稳健性，该过程被制定为连续深度模型，所提出的 GoTube 算法通过解决一组全局优化问题，构造了紧密的过程执行集合的封套，从初始状态球开始，其限制支配管在所需的概率和所需的紧密度上是保守的.

    Jul, 2021

  • 关于具有随机保证的神经 ODE 验证

    我们展示了神经 ODE 可以通过解一组全局优化问题进行验证，为此，我们介绍了随机 Lagrangian 可达性（SLR）技术，并引入了前向模式伴随灵敏度方法来计算梯度，最终我们为 SLR 建立了渐近和非渐近收敛率。

    Dec, 2020

  • 基于运动基元的非高斯风险有界随机非线性系统不确定环境下的实时管道运动规划

    本文提出了一种适用于不确定环境下动态机器人避障的实时在线运动规划算法，通过将概率安全约束转化为风险轮廓的确定性约束，使用总和平方（SOS）编程验证管道的安全性，可保证系统状态与障碍碰撞的概率有限，该算法适用于多种长期任务。

    Mar, 2023

  • 基于 Langevin 动力学的非凸优化算法的全局收敛性

    本文提出了强化的 Langevin dynamics 算法和分析框架，理论证明了全局收敛性，能在各自的梯度复杂度内接近极小值。

    Jul, 2017

  • 通过经验性亚稳定性证明 Langevin 算法的局部最优性和一般化保证

    通过双时间尺度的表征，研究非凸经验风险最小化中 Langevin 算法的亚稳态现象，探究其对局部泛化和最优性的影响。

    Feb, 2018

  • 基于未调整 Langevin 算法的高维贝叶斯推断

    文章研究了如何使用基于 Langevin 随机微分方程的采样方法，对高维概率分布进行采样， 并通过 Wasserstein 距离和总变差距离获得收敛到平稳状态的非渐进界限。同时，对于测量和有界函数报告了平均均方误差和指数偏差不等式的界限，并提供了二分类回归的贝叶斯推断例证。

    May, 2016

  • 目标管的随机可达性：理论和计算

    本文利用概率规定的安全性和性能提出了一种针对随机扰动下的约束动态系统的一种优化算法，在考虑时间变化状态约束的情况下，最大化状态始终保持在限定区域内的概率，我们提供充分的条件使随机可达集是闭合、紧凑和凸形的，并提供一种随机传递集估计技术。

    Oct, 2018

  • 神经拉格朗日薛定谔桥：扩散模型用于人口动态

    本研究提出了使用连续标准化流（CNFs）和动态最优输运方法对种群动态进行建模，以在固定时间点观测到的种群中推断采样轨迹的方法。通过使用正则化神经 SDE 对对流扩散过程进行建模并开发了一个模型架构，可以有效地近似种群级别的动态，即使在高维数据中也可以实现，并且使用拉格朗日方法引入的先验知识可以估计具有随机行为的采样级别动态。

    Apr, 2022

  • 学习稳定和鲁棒的线性参数时变状态空间模型

    该论文介绍了两种线性参数时变状态空间模型的直接参数化方法，确保模型稳定、鲁棒，并且可以使用无约束优化进行模型训练。通过 LPV 识别问题的实例，验证了该方法的有效性。

    Apr, 2023

  • 鲁棒优化的统计学：一种广义经验似然方法

    本文研究了基于经验似然和分布鲁棒解的方法进行随机优化问题的统计推断，特别关注最优值的置信区间和渐近达到精确覆盖的解决方案。我们提出了一个基于非参数 $f$- 分歧球构建的分布不确定性集合的广义经验似然框架，用于 Hadamard 可微函数和随机优化问题，从而提供了一个有原则的选择分布不确定性区域大小的方法，以实现达到精确覆盖的单侧和双侧置信区间。我们还给出了我们分布鲁棒的公式的渐近展开，表明如何通过方差来规范化问题。最后，我们证明了，我们研究的分布鲁棒公式的优化器具有与经典样本平均逼近中的优化器基本相同的一致性属性。我们的一般方法适用于快速混合的平稳序列，包括几何上遗传的 Harris 递归马尔科夫链。

    Oct, 2016