- 变分推理,高斯混合模型,贝叶斯机器学习
通过优化固定协方差和常值权重的高斯混合模型,将变分推断(Variational Inference)视为最小化平滑相对熵,研究其在非高斯情况下的理论性质,包括梯度下降和粒子系统优化。
- 音频反欺诈的锐度感知优化多数据集协同训练
本文提出基于多数据集协同训练和锐度感知最小化的紧凑型音频反欺诈模型,具备跨数据集的泛化性能,相较于预训练模型,参数数量少 4,000 倍,并在多个数据集上表现出竞争力。
- 在半环上计算基于广义模式的能量的分配函数
该论文研究了一种特殊情况的约束满足问题,其中变量完全有序并对不违反顺序的变量元组施加软约束;为不同类型的约束语言和权重提供了计算模式的解决方案,以获得约束最小化的解决方案。
- 约束自共轭最小化的牛顿 Frank-Wolfe 方法
使用线性 oracle 解决自协调约束优化问题,并提供数值结果表明 Newton Frank-Wolfe 在组合优化比例、D - 最优实验设计和 logistic 回归等方面表现优异。
- 一种普适最优的多阶段加速随机梯度方法
研究如何在存在梯度估计噪声的情况下,通过使用多阶段加速算法,探讨最小化强凸光滑函数的问题,并通过采用特定的重启和参数选择,实现在确定性和随机情况下的最佳速率,以及在不知道噪声特性的情况下操作。
- 随机区块立方牛顿法
通过随机块三次牛顿方法和近端算子,成功优化了三个可微,二次可微和非光滑项的凸函数求和问题,并在多个机器学习问题中实现了成功的优化。
- 交替方向乘子法(ADMM)二次问题的最优参数选择
本文旨在通过寻找最优算法参数,最小化 ADMM 迭代的收敛因子,来定量表征算法参数对于优化收敛时间的影响。我们在 L2 正则化最小化和约束二次规划的背景下,得出最优参数选择规则,并通过数值实验表明,这些规则显著优于现有文献中的替代方案。
- 逼近和聚类数据的统一框架
该研究考虑了针对一组正函数的最小化问题,给出了一个压缩表示法(coresets),用于形状拟合(shape fitting)和近似聚类(approxiate clustering)问题。他们将 epsilon-approximations - MM具有异常值的多子空间中最显著子空间的恢复
该研究讨论了从一个混合数据集中恢复最重要子空间的问题,我们通过 lp - 平均距离的非凸优化来完成此任务,并证明在添加小噪声的情况下,该任务可以在 0<p<=1 的任何情况下实现,但难以在 p>1 和存在多个子空间时实现。
- 最小化子模函数之和
本文研究了由多个子模块项组成的函数的最小化问题,其中每个项都可以有效地计算交换容量,将问题转化为辅助图中的子模块流问题,并探讨了 Iwata 的容量扩展方法在包含基数相关项时的复杂性改进。