关键词zeroth-order optimization
搜索结果 - 28
- ICML大规模黑箱优化的零阶块坐标下降算法
本研究提出了一种名为 ZO-BCD 的零阶优化算法，可在大规模环境下完成优化问题的求解，并在小迭代计算复杂度下具有较佳的查询复杂度和更小的内存占用，同时将其应用在音频分类器中，实现了在小波域的对抗攻击效果。
- 一位使用比较法的一比特梯度估计器
本文利用一位 $ extit {comparison oracle}$ 来实现零阶优化问题的求解，结合一位未知信号的压缩感知，提出了使用梯度下降算法的新型算法 SCOBO，在具有低维结构可供利用的情况下，优于现有技术。
- 信号处理和机器学习中零阶优化入门
本文综述了零阶优化的方法，重点介绍了其优化思想、原则以及近年来的收敛分析进展。此外还介绍了零阶优化的一些应用，例如评估深度学习模型的鲁棒性、生成黑盒模型的解释以及在线传感器管理等。
- 无梯度下降：高维零阶优化
该论文提出了两种简单但强大的无梯度估计的梯度下降（GLD）算法，并从一种新的几何视角进行分析，展示了其具有收敛性的优势，并且能够在保证单调变换不变的情况下，利用低的潜在维数来实现优化，对 BBOB 和 MuJoCo 基准测试产生了良好的实证 - ICLR零阶 Oracle 学习到学习
本文将 learning to learn（L2L）框架扩展到零阶（ZO）优化设置，其中没有明确的梯度信息，并将学习的优化器建模为循环神经网络（RNN），通过 ZO 梯度估算器近似梯度，并利用以前迭代的知识产生参数更新，进一步引入另一个 R - 基于 Hessian 感知的零阶优化黑盒对抗攻击
本文提出了一个基于 Hessian 矩阵的零阶优化算法 ZO-HessAware，用于黑盒对抗攻击，该算法的实验证明在结构化 Hessian 逼近的情况下，具有更好的零阶收敛率和查询复杂度。
- 零阶随机方差约减用于非凸优化
本文提出了一种基于损失函数的零阶优化算法（ZO-SVRG）以及相应的快速收敛的优化方法，即方差减少，用于解决应用中需要零阶优化的挑战，可用于黑盒物质分类和黑盒深度神经网络模型生成对抗性示例。我们的理论分析揭示了 ZO-SVRG 的本质难点， - 零阶异步双随机算法与方差缩减
本文提出了一种使用方差缩减的异步双随机零阶优化算法 (AsyDSZOVR)，应用于光滑但不一定是凸函数的有限和问题，证明了该算法将收敛速度从 O（1 /√T）提高到了 O（1 / T），优于现有算法的最佳结果，并且也超越了顺序随机零阶优化算