Feb, 2019

一种基于重要性采样的随机无导数优化方法：理论与学习控制

PDF
TL;DR本文提出了首个具有重要性采样的导数无关优化方法，并针对非凸、凸和强凸函数推导出新的改进的复杂性结果。作者进行了大量实验，证实该算法在高维连续控制问题中具有实用性。
derivative-free optimizationimportance samplingcomplexity resultscontinuous control taskssample complexity improvement
发现论文，激发创造
  • 自适应采样与重要性采样的高效梯度估计

    通过提出的自适应方法和重要性采样方法，在机器学习框架中有效地整合了重要性函数，并仅通过输出层的损失梯度提出了一个简化的重要性函数，以实现在分类和回归任务中更好的收敛性和最小的计算开销。

    Nov, 2023

  • 重要性采样随机优化在变分推断中的应用

    本工作提出一种更有效的变分推断算法，该算法采用重要性抽样估计梯度，通过评估近似参数的梯度而无需重新计算模型梯度来加速计算。引入重要性采样的随机梯度下降在一系列模型中优于标准随机梯度下降，同时提供了一种可证明的随机平均梯度变体，可用于变分推断。

    Apr, 2017

  • 重要性采样的策略优化

    本文提出一种新的，无模型的策略搜索算法，POIS，它适用于基于动作和基于参数的设置，可在连续控制任务中有效地解决强化学习问题，通过离线优化新的轨迹批次来定义一个替代目标函数，并使用高置信度界限来解决估计的目标函数方差问题。

    Sep, 2018

  • 重要性采样的随机优化

    本文研究了使用重要性抽样的随机优化算法，特别是使用重要性抽样的 Prox-SGD 和 Prox-SDCA，并提供广泛的理论分析和实验证明，使用所提出的重要性抽样方法可以显着提高收敛速度。

    Jan, 2014

  • 安全自适应重要性采样

    本文提出了一种基于安全梯度边界的渐近式梯度采样方法。 这种方法是与给定边界相比最好的抽样分布，对于现有算法而言可以实现高效并且能够大幅加速坐标下降和随机梯度下降。经过大量数值测试，所提出的采样方案的高效性得到了验证。

    Nov, 2017

  • 基于梯度的采样：一种针对最小二乘的自适应重要性采样方法

    本文提出了一种基于梯度的自适应抽样策略，对比以往仅根据输入数据独立抽样的方法，该策略结合了输出变量，实现了在处理最小二乘问题时更高的统计效率和计算效率。理论分析证明了其抽样误差上限的改善，而实验证实了该方法的有效性。

    Mar, 2018

  • 多重重要性采样中的最优混合权重

    本研究旨在通过优化混合成分采样率来提高多元重要性采样的效率。我们证明在控制变量回归系数和混合概率的联合情况下，多元重要性采样的采样方差是凸的，并给出了一个可用于估计样本数据中最优混合的顺序重要性采样算法。

    Nov, 2014

  • 随机优化的在线方差缩减

    本文提出了一种基于 Heuristic 和 Bandit 反馈的在线优化算法，可以寻找一种重要性采样分布序列，竞争力可以与后见之明得到的最佳固定分布相媲美，并在实验验证中证明了该算法在多个数据集和设置下有效的优点。

    Feb, 2018

  • 任意抽样的非凸方差减少优化

    调查了非凸损失函数下的经验风险最小化的方差缩减算法，尤其是 SVRG、SAGA 和 SARAH 的非凸版本，提出了基于重要性采样的小批量分析，并成功提高了训练速度。

    Sep, 2018

  • 随机凸规划下的自适应重要性采样

    研究了从指数族抽取重要样本的 Monte Carlo 估计器的方差是分布的自然参数的一个凸函数，提出了一种自适应抽样算法，既改善了抽样分布的选择，同时积累了 Monte Carlo 估计结果，利用了凸性，证明了该方法的无偏估计具优越的渐进方差。

    Dec, 2014