提出了一种框架，允许在广泛使用的深度神经网络中严格执行约束条件，其中约束通过限制 DNN 参数的子流形来确切满足。该框架的一个示例是将卷积神经网络（CNN）的滤波器限制为小波，并将这些小波网络应用于医学领域的轮廓预测任务。

Feb, 2023

提出了一种用于深度神经网络（DNNs）的新颖正则化方法，将训练过程视为约束优化问题，利用随机增广拉格朗日乘子法（SAL）实现更灵活高效的正则化机制，对白盒模型进行改进以确保可解释性，实验证明该方法在图像分类任务上实现了更高的准确度并具有更好的约束满足性，从而展示其在受限设置下优化 DNNs 的潜力。

Oct, 2023

本文首次综述了将领域知识作为约束条件融入深度学习 (DL) 学习模型的方法，以提高其性能，并针对深度神经网络提出了五种主要的方法，包括特征空间操作、假设空间修改、数据扩增、正则化策略和受约束的学习。

May, 2020

不需了解动力学的情况下控制动态系统是一项重要且具有挑战性的任务。我们提出了一种控制理论方法，通过加入可控性约束来增强数据估计的模型，从而实现从数据中提取更有效的控制器。该方法展示了基于深度神经网络的模型估计与解决方案性质的控制理论保证之间的联系，并在两个标准经典控制系统中证明了其优势。

Nov, 2023

本文提供了一种训练神经网络的方法，用于满足各种领域约束。该方法将线性模型学习的思路引入神经网络，并添加了关键的约束传播和基于梯度下降和 CSP 求解的权重更新。实验结果表明，该方法足够灵活，可以保证满足神经网络中的广泛分布的约束。

Mar, 2023

本文介绍了如何在深度神经网络中实施硬约束来提高预测质量，并通过与软约束相比的实验结果证明了软约束比硬约束更加有效。

Jun, 2017

本文提出了一种直接损失最小化的方法来训练深度神经网络，特别适用于应用特定的指标，包括提出了新的动态规划算法来高效计算权重更新，最终在行动分类和目标检测方面表现优秀，特别是在存在标签噪声的情况下。

Nov, 2015

本研究介绍了一种将非线性分析约束条件通过网络架构或损失函数施加在神经网络上的方法，应用于气候建模中的混合过程，可以确保精度且不影响性能，同时也减少与约束条件相关的输出错误。

Sep, 2019

本论文提出了使用无监督深度学习解决无约束和有约束变量优化问题的统一框架，并以资源配置为例证明了这一框架的有效性。实验结果表明，与监督学习相比，无监督学习在保证服务质量约束的同时可以更快地达到最优策略和减少 QoS 违规概率。

May, 2020

通过结合逻辑和信息几何，我们提出了一种将知识嵌入和逻辑约束引入机器学习模型中的方法，通过构造分布并将其与原始损失函数以及费舍尔 - 劳距离或库尔巴克 - 莱布勒散度相结合构造损失函数，以输出概率分布来包含逻辑约束。

May, 2024