神经网络优化控制:凸逼近方法
本文介绍了输入凸性神经网络的架构和方法,通过网络参数的约束使得神经网络输出成为输入的凸函数,实现了高效的推理、优化和学习,在多标签预测、图像完成和强化学习等方面具有更好的性能表现。
Sep, 2016
通过生成一个确保更稳健的神经网络的近似方法,来解决神经网络的准确性和稳健性之间的权衡关系。该方法是完全凸的,并将其作为半正定规划提出。将其应用于稳健化模型预测控制以验证结果,旨在介绍一种在神经网络准确性和稳健性之间权衡的方法。
May, 2024
我们考虑从有限数量的(状态 - 输入)- 后继状态数据点中设计一种基于机器学习的未知动态系统模型的问题,以便获得的模型也适用于最优控制设计。我们提出了一种特定的神经网络(NN)结构,其产生具有分段仿射动力学的混合系统,对网络参数具有可微性,从而使得能够使用基于导数的训练过程。我们展示了对 NN 权重的精心选择产生具有结构特性的混合系统模型,在有限视野最优控制问题(OCP)的计算方面具有非常有利条件。具体而言,我们表明可以通过非线性规划计算具有强大局部最优性保证的最优解,与通常需要混合整数优化的一般混合系统的经典 OCP 相比。除了非常适用于最优控制设计外,数值模拟还说明我们基于 NN 的技术在混合系统的系统识别方法方面具有非常类似的性能,并且在非线性基准测试中具有竞争力。
Apr, 2024
通过将人工神经网络用于构建通用非线性控制策略并结合凸优化投影层,本论文提出了一种能在保持鲁棒性的同时提高控制系统的平均性能的技术,同时在非鲁棒的深度强化学习(deep RL)方法的最坏情况稳定性方面也有所提高。
Nov, 2020
本文研究了使用合理神经网络控制理论,针对神经反馈环的鲁棒性问题,设计了合理激活函数,并构建了一个内在可凸性结构的合理神经网络,通过对 Sum of Squares 可行性测试进行优化,成功实现了对具有非线性噪声和参数不确定性植物的神经反馈环的稳定化控制
Jul, 2023
该研究基于输入凸神经网络(ICNN),提出了一种用于基于 Lyapunov 的 MPC 的新型输入凸 LSTM,旨在减少收敛时间、缓解梯度消失问题并确保闭环稳定性。模拟非线性化学反应器实验结果显示,相对于基准普通循环神经网络、普通 LSTM 和输入凸循环神经网络,梯度消失问题减轻并且收敛时间分别降低了 46.7%、31.3% 和 20.2%。
Nov, 2023
本文研究了多层神经网络在控制方面的应用,特别是在连续高维动作任务中,通过强化学习训练后实现了控制策略,结果表明可以成功训练具有成千上万个参数的神经网络控制器,并比较了各种不同结构。文章讨论了这一问题与以往有监督知觉任务的区别,呈现了实验结果,并讨论了将深度学习技术应用于控制问题优化的未来方向。
Nov, 2013
本文提出了一种用于分布式电网电压调节的最优化神经网络方法,通过训练一个特定设计的模型,实现输入功率注入和电压之间的映射,并在电压调节阶段计算最优的无功功率注入,最后在多个测试系统上进行数值模拟来展示此算法的操作性。
Feb, 2020
本文研究基于凸性的神经网络架构和其对泛化能力和过度拟合的影响,限制权重为非负并使用非递减凸激活函数可以让神经网络自我正则化,克服过度拟合问题,提高性能在图像分类方面的实验表明了这种方法的有效性。
Jun, 2020
不需了解动力学的情况下控制动态系统是一项重要且具有挑战性的任务。我们提出了一种控制理论方法,通过加入可控性约束来增强数据估计的模型,从而实现从数据中提取更有效的控制器。该方法展示了基于深度神经网络的模型估计与解决方案性质的控制理论保证之间的联系,并在两个标准经典控制系统中证明了其优势。
Nov, 2023