- 昂贵嵌套灰盒函数的贝叶斯优化
本文提出了一种灰盒优化算法,利用 Bayesian 优化框架和 optism-driven 算法,在常用 Kernel 函数下表现出收敛速度优异的特点,这个算法在常规黑盒算法之上大幅提高了全局最优解求解的速度。
- 一个自适应增广拉格朗日方法用于训练具有物理约束和平等约束的人工神经网络
采用增广 Lagrange 方法(ALM)解决前向和反向问题,为了进一步提高计算效率和节省计算成本,采用小批量训练。
- ICLR学习迭代神经优化器用于图像隐写术
通过训练迭代神经网络实现图像隐写术的优化,保持网络数据尽可能接近自然图像流形,从而达到更高的速度和可靠性,且在无需纠错码的情况下可将恢复误差率降至零。
- 基于事后校正的分支学习算法用于带未知参数约束的预测优化问题
该论文提出了一种利用机器学习和约束优化相结合的方法来解决包含在求解时未知参数的优化问题。通过引入损失函数后验后悔来处理包含约束的未知数值,该方法首次提出可以精确计算后验后悔以解决原来只能使用估计算法的问题,并在大量实验中成功优化了针对线性规 - 端到端基于模型学习的折叠优化
该论文提供了对展开优化器反向传播的理论洞见,从而得到了一个系统,用于生成等效但可有效求解的分析模型,并提出了一种统一的展开和分析微分的方法。实验表明,该方法在各种结构预测和决策导向的学习任务中具有潜在的计算和增强表现能力。
- 文本到图像扩散的多概念自定义
本文介绍了一种基于 Custom Diffusion 的文本到图像生成模型,只需少量优化参数即可表示新概念并实现快速调整,还可以通过约束优化共同训练多个概念或组合多个微调模型,并在新颖的环境中将多个概念无缝组合生成,此方法在记忆和计算效能方 - c-TPE: 带不等式约束的树状 Parzen 估计器在连续和分类超参数优化中的泛化
本研究介绍了一种扩展的 TPE 算法(c-TPE)来进行受约束的深度学习超参数优化,该方法通过 AF 的简单分解具有鲁棒性,对分类参数的搜索空间进行了 81 次实验,表现出了最佳平均排名表现。
- 多智体合奏的端到端优化与学习
本文提出了一种名为 e2e-MEL 的策略,通过将约束优化和学习相结合,将集成学习任务变成可微分的选择程序,学习为特定输入样本选择适当的预测器进行组合,结果表明,e2e-MEL 在各种设置中都可以明显优于传统共识规则。
- UNIFY: 一个统一的机器学习约束优化问题政策设计框架
提出了 UNIFY 域,旨在统一机器学习(ML)和约束优化(CO)之间的相互作用,以解决复杂决策问题,并在两个具体实例中进行了有效性演示,同时指出了未来的研究方向
- 何时更新您的模型:约束模型基强化学习
提出了一种基于模型的强化学习算法的性能保证方法,引入了一个受约束的下界优化问题,采用了事件触发机制,从而克服了模型更新对性能的影响,并在实验中证明了该方法的有效性。
- 盲资源分配的随机直接搜索方法的遗憾分析
研究在预算分配中使用直接搜索方法,提出了一种改进的算法来加速梯度下降方向的识别,并将算法的累计遗憾度分析为 T 的 2/3 次方的上限。
- 在约束条件未知的情况下,预测并优化装箱和覆盖线性规划问题
本文提出了一个新的 Predict+Optimize 框架,可以处理既有在优化目标又有在约束条件中的未知参数,引入了校正函数和惩罚项来解决相关问题,同时提出了一种可处理所有 packing 和 covering 线性方程的算法,实验证明该方 - AAAI基于自监督的原始 - 对偶学习用于约束优化
本文研究了如何训练机器学习模型直接逼近受约束优化问题的最优解,提出了一种新的自监督训练方法 Primal-Dual Learning(PDL),该方法不需要预先解决实例集合或优化程序来进行训练和推理,而是同时训练原始神经网络和对偶神经网络来 - 使用变分传输和镜像下降在约束域上进行分布式优化的基于粒子的算法
本文提出了一种基于粒子的迭代算法 —— 反射变分传输(mirrorVT),应用于概率分布的约束优化问题,特别是在单纯形和欧几里得球约束域上,该算法通过推送粒子对定义在对偶空间上的分布流形执行 Wasserstein 梯度下降,实现了概率分布 - 使用 Lagrangian Relaxation 学习解决软约束车辆路径问题
该研究提出了一种基于强化学习的方法,结合拉格朗日松弛技术和约束策略优化,用于解决软限制的车辆路径规划问题,并在旅行商问题、容量限制车辆路径问题和带时间窗口的容量限制车辆路径问题上进行了验证,表明其对解决已有方法难以解决的问题有很好的竞争力。
- IJCAI通过在概率电路上放宽约束确保置信贝叶斯网络的健壮性
研究方法来量化决策函数对于置信贝叶斯网络的鲁棒性,使得能够通过概率电路上的约束优化问题来获得 MARmax 的有保证的上限,理论上表现出不错的上限紧度,并且具有较好的可扩展性。
- 网格规则化重新审视文档图像去畸变
本文提出了一种基于约束优化的方法来解决文档图像去畸变的问题,该方法考虑了文本行和文档边界,并引入了一种新的网格正则化策略来提高可读性,并在 DocUNet 基准测试中取得了最好的图像质量。
- AAAI针对 GPU 的经典机器学习问题优化
该论文扩展了 GENO 框架以在 GPU 上解决约束优化问题,其性能比当前流行的算法(如 CVXPY 与 GPU 加速算法)高出数个数量级。该框架使用易于阅读的建模语言描述了约束优化问题。
- AAAI带审查的纵向公平
本文提出了一种适用于在纵向受限制环境中的公平性测量和去偏置算法,以解决现有公平性研究在时间到事件不确定时因被审查的类标签和不适用而造成的难题,并在四个被审查的数据集上进行了实验。
- 用因果边际多面体界定治疗效应
本文提出了一种基于置信传播的方法,通过在满足证据的所有因果模型中搜索来推导一个目标因果量的上下界,同时确保因果模型的边缘与数据相容,而不必构建一个全局因果模型,从而提出一种新的局部一致边缘的集合,称为因果边缘多面体。