gradient variance | BriefGPT

关键词gradient variance

搜索结果 - 10

基于模型重参数化的策略梯度方法：理论与实用算法
对长期强化学习问题应用基于模型的 ReParameterization Policy Gradient Methods 时，可能遇到爆炸梯度方差引起的优化困难。通过对模型的收敛性和函数逼近器的平滑性的分析，我们提出了一种谱归一化方法以缓解长
PDF8 months ago
用网络控制变量驯服联邦学习中的梯度方差
通过引入一种新的网络控制变量 (FedNCV) 框架，该研究提出了一种分散式学习方法用于解决分散式学习中遇到的挑战，诸如梯度变化、收敛速度缓慢和不稳定的改善。该框架利用控制变量单元 REINFORCE Leave-One-Out (RLOO
PDF8 months ago
通过预训练稳定 RNN 梯度
通过本研究，我们证明预训练网络以实现本地稳定性在复杂结构的网络中是有效的，并提出了一种称为本地稳定条件（LSC）的理论，它能最小化对数据和参数分布的假设。我们的实验结果表明，通过预训练满足 LSC 的前馈和递归网络通常能够提高最终性能。这项
PDF10 months ago
黑盒变分推断的线性收敛性：我们应该坚持完成吗？
在完美变分族规范下，证明了带有控制变量的黑盒变分推断（BBVI），特别是附着着陆（STL）估计器，在几何（传统称为 “线性”）速率下收敛。我们证明了 STL 估计器的梯度方差的二次界限，由此可以直接推出使用投影随机梯度下降的 BBVI 的收
PDFa year ago
CVPRPA&DA: 为一致的 NAS 联合采样路径和数据
借助权重共享机制，一次性 NAS 方法训练超级网络，然后继承预训练权重以评估子模型，这在很大程度上降低了搜索成本。然而，我们发现，在超级网络训练期间，权重共享会导致梯度下降方向不同，并且存在较大的梯度方差，该论文的方法旨在通过联合优化 PA
PDFa year ago
SoftTreeMax: 通过树搜索实现策略梯度的指数级方差减少
本文提出一种新型的神经网络方案 SoftTreeMax，通过树形计划从多个层面减轻策略梯度算法中的大方差、高样本复杂度问题，实现在 Atari 游戏中优异的性能表现。
PDFa year ago
EMNLPPassage-Mask: 检索 - 阅读模型的可学习正则化策略
通过引入可学习的段落掩码机制，可以防止 retriever-reader 模型过拟合排名前几个检索段落，进而有效地解决 NLP 任务中针对整个检索段落推理的问题，并在开放式问题回答，对话交互和事实验证等不同任务中取得了胜过其他方法的性能表现
PDF2 years ago
NIPS使用大量控制变量的集成进行变分推断
本文介绍了使用控制变量的方法来减少渐变方差的影响，提出了一种贝叶斯风险最小化框架来定量评估这一方法的效果，并表明使用大量控制变量结合的方法显著提高了推理的收敛性。
PDF6 years ago
Kalman 梯度下降：随机优化中自适应方差减小
介绍一种使用卡尔曼过滤器进行随机优化的算法，并分析了其在非凸设置下收敛性的理论，并在神经网络和黑盒变分推理等许多机器学习领域上展示了其改进的性能。同时，介绍了一种分布式版本的算法，并将其扩展到 SGD 动量和 RMSProp。
PDF6 years ago
分布式重要性采样在 SGD 中的方差减少
该研究提出一种分布式深度学习框架，其中一组工作者并行搜索最具信息性的示例，而单个工作者则使用重要性抽样方法更新模型。实验证明，当采样提议与梯度的 L2 范数成正比时，该方法可以减少梯度方差，即使在跨机器同步成本不可忽略且重要性抽样因子不会立
PDF9 years ago