关键词stochastic gradient-based optimization
搜索结果 - 4
- 基于信息论的随机梯度优化的置信区间
使用信息论信任域优化算法 (arTuRO)，通过模型化网络参数为高斯分布并使用基于 Kullback-Leibler 散度的信任域，我们利用较少的一阶信息从随机梯度中近似计算 Hessian 的对角元素，构建随时间变化的期望 Hessian - AAAI具有稳定对抗训练的分布鲁棒学习
本文提出了一种新的稳定对抗学习（SAL）算法，该算法利用异质数据源构建了更实用的不确定性集，并根据协变量与目标的稳定性进行差异化的鲁棒性优化，理论上表明我们的方法适用于随机梯度下降优化，并为我们的方法提供了性能保证。在模拟和实际数据集上的实 - 分布偏移下的稳定对抗学习
本文提出了一种 Stable Adversarial Learning（SAL）算法，该算法通过利用异构数据源构建更实用的不确定性集合，并针对与目标之间的相关性稳定性进行差异化的强鲁棒性优化，在随机梯度优化的情况下证明了可行性和提供了性能保 - 将未标记数据纳入分布鲁棒学习中
本研究介绍了一种新的分布鲁棒学习方法，该方法通过加入无标签数据以限制敌手从指定分布中选择数据，可以有效地进行分类，并提出了一个分布鲁棒的版本，可应用于主动学习。在 14 个真实数据集上的结果表明，该算法往往在传统方法无法提供良好结果的情况下