variance reduction | BriefGPT

关键词variance reduction

搜索结果 - 146

非凸高维随机优化的非光滑和非欧几里德近端项随机一阶方法
非凸优化中采用维度无关的随机一阶方法 (DISFOM) 来解决样本复杂度问题，使用小批量估计梯度以达到 ε- 稳定点的样本复杂度为 O ((log d) / ε^4)，进一步利用方差缩减可将该界限提高至 O ((log d)^(2/3) /
PDF7 days ago
独立 Metropolis 是否能胜过朴素蒙特卡罗？
基于控制变量的独立 Metropolis 采样器使用提议密度进行方差缩减计算策略，可在 KL 散度条件下对密度进行估计，以较粗糙蒙特卡洛估计器具有更小的渐近方差，同时不需要额外的计算代价，但假设提议密度下的函数期望值在分析上是可用的。研究通
PDF9 days ago
公平联邦学习的半方差缩减
通过引入 Variance Reduction 和 Semi-Variance Reduction 两个新的公平联邦学习算法，研究了确保联邦学习系统中的公平性是一个重要且具有挑战性的问题。这些算法通过惩罚不同客户之间的损失函数方差或者平均值
PDF11 days ago
大规模逆问题的随机优化指南
概述随机优化算法在逆问题方面的最新研究，包括随机问题的多种问题模态和算法修改，以及其在逆成像问题领域带来的优势和劣势。
PDF24 days ago
具有参考 - 优势分解的联邦 Q 学习：几乎最优的遗憾和对数通信成本
本文介绍了一种模型无关的联邦增强学习算法，称为 FedQ-Advantage，它利用基于参考优势的分解进行方差降低，并在两个不同的机制下运行：代理与服务器之间的同步和策略更新，两者都由事件触发。我们证明了我们的算法不仅需要更低的对数通信成本
PDFa month ago
利用 James-Stein 估计器控制黑盒变分推断的方差
黑盒变分推断是在使变分推断更 “黑盒” 的最近努力中的一个有前途的框架，但在基本版本中，它要么由于不稳定性而无法收敛，要么在执行前需要调整更新步骤，这使得它不完全通用。我们提出了一种通过将随机梯度上升重新定位为多元估计问题来规范其参数更新的
PDF2 months ago
带有阶段演员的演员 - 评论家强化学习
强化学习中的政策梯度方法在解决连续最优控制问题方面具有很大潜力。本研究提出了一种名为 Phased Actor in Actor-Critic (PAAC) 的新方法，旨在改善政策梯度估计的质量，减少随机性变化，并提供稳定的系统动力学。PA
PDF3 months ago
无限时间平均回报马尔可夫决策过程的方差减少政策梯度方法
基于政策梯度的两种方法在无限时间平均奖励马尔可夫决策过程中引入了一般参数化。第一种方法采用隐式梯度传输进行方差降低，确保了预期后悔度为 $\tilde {\mathcal {O}}(T^{3/5})$ 数量级。第二种方法以 Hessian-
PDF3 months ago
在范数空间中的随机 Halpern 迭代及其在强化学习中的应用
我们分析了具有方差减小的随机 Halpern 迭代的 Oracle 复杂度，目标是在规范有限维度空间中逼近非扩张和收缩算子的不动点。我们证明，如果底层随机 Oracle 的方差有一致上界，我们的方法展现出 O (ε^{-5}) 的总 Ora
PDF3 months ago
流管界优化：高效的流管界优化与无循环方差缩减
在本研究中，我们研究了在黎曼流形上的随机优化，重点关注欧氏空间和黎曼空间中使用的关键方差减小机制。通过引入 Riemannian Loopless SVRG（R-LSVRG）和 PAGE（R-PAGE）方法，我们取代了外循环，采用每次迭代中
PDF4 months ago
有针对性的方差减少：具有噪声参数的黑盒模拟器的鲁棒贝叶斯优化
针对黑盒模拟器优化问题，本文提出了一种名为目标方差缩减（TVR）的贝叶斯优化方法，通过联合采集函数对控制参数和不确定参数进行同时优化，以有效实现鲁棒优化。该方法在泛函高斯过程模型的基础上，通过闭合形式计算采集函数，展现了探索 - 开发 -
PDF4 months ago
通过近端点方法在随机优化中降低方差和样本复杂度
该研究提出了一种随机近端点方法来解决随机凸复合优化问题，通过仅假设随机梯度的方差有界等较弱条件，建立了对于该方法收敛的高概率保证的低样本复杂度。此外，本研究的一个显著特点是开发了一个用于解决近端子问题的子程序，该子程序还作为一种新的方差减小
PDF5 months ago
化合收益降低强化学习的方差
通过引入复合回报和双引导回报，本研究证明能够减小方差并提高强化学习方法的样本效率。实验证明，双引导回报可以改善 $n$ 步深度强化学习代理的样本效率，且增加的计算成本很小。
PDF5 months ago
为什么随机森林有效？理解树集合作为自正则化的自适应平滑器
将树集合视为自适应和自正则化的平滑器，可以提供对集合中树的预测更为平滑的新认知和深入洞察，以及通过量化集合中树的平滑效果客观地重新审视和调和森林成功的两种近期解释，并挑战以方差减少为唯一解释的观点，展示森林通过三种机制改进树的性能，并通过丰
PDF5 months ago
流模型在相关格点 QCD 系列生成中的应用
利用机器学习的归一化流，在格点量子场论上可以生成具有统计相关性的不同作用参数下的格子规范场集合，本研究展示如何利用这些相关性来减少计算可观测量时的方差。通过一种新颖的残差流架构展示了三种概念验证应用：规范理论的连续极限、量子色动力学可观测量
PDF5 months ago
自然策略梯度法结合基于 Hessian 辅助的动量方差减小的全局收敛性
本文介绍了一种新的自然策略梯度变体 NPG-HM，它利用 Hessian 辅助的动量技术用于方差减少，子问题则通过随机梯度下降方法求解。研究结果表明，NPG-HM 在一般 Fisher 非退化策略参数化下，能够以样本复杂度 O (ε^−2)
PDF6 months ago
SteinDreamer：通过 Stein 标识进行文本至 3D 分数提炼的方差减少
通过方差约减的视角，本文揭示了分数蒸馏中的梯度估计与高方差之间的内在关系，并提出使用 Stein's identity 进行变量约减的方法，称为 Stein Score Distillation (SSD)。通过构建由 Stein iden
PDF6 months ago
在情境强化学习中进行的离线策略评估的边际密度比
在本文中，我们介绍了一种新的基于边际比率的 Off-Policy Evaluation (OPE) 估计器，用于 contextual bandits，旨在通过关注结果边际分布的变化来减少方差。我们通过严格的理论分析证明了 MR 估计器相对
PDF7 months ago
基于截断目标函数的消极策略优化的政策梯度
通过简单的目标调整，我们发现在连续行动空间中，将 Proximal Policy Optimization (PPO) 的重要性采样目标替换为截断等价的基础策略梯度可以持续改善其性能，并且这种悲观的优化促进了增强性探索，从而在单任务、约束和
PDF8 months ago
有限和单调包含的方差减少哈尔彭迭代
应用机器学习方法解决针对敌对鲁棒性或多主体环境产生的博弈均衡问题，提出了基于有限和结构的方法。使用方差缩减技术改进了经典的 Halpern 迭代，通过在求和中的组分算子上引入可比较的 cocoercive 或 Lipschitz 连续单调性
PDF9 months ago