optimization landscapes | BriefGPT

关键词optimization landscapes

搜索结果 - 8

使用非线性系统理论学习带有收敛保证的优化方法
我们提出了一个利用非线性系统理论填补演进中算法收敛性和鲁棒性分析的理论框架，可以自动化地优化学习到的算法，保证其设计上的收敛性。
PDF4 months ago
Transformer 世界模型提供更佳的策略梯度吗？
使用 Actions World Models (AWMs) 解决传统 transformer world models 生成的迂回梯度路径问题，在长期视野任务中产生更好的策略。
PDF5 months ago
基于梯度的 PSO 混合方法
通过将梯度优化方法与粒子群优化的团队合作特性相结合，我们研究了提高粒子群优化效率和效果的各种策略，包括顺序解耦合、并联解耦合和自适应解耦合等方式，并比较了它们在不同问题领域的应用。
PDF7 months ago
ICML悬崖跳水：探索强化学习环境中的奖励表面
本文通过对 27 个常用的 Gym 强化学习环境的奖励表面和相关可视化进行了实验研究，并探索了在策略梯度方向上的奖励表面，发现许多强化学习环境有频繁的梯度陡峭的情况，A2C 通常会跳入低回报区域，而 PPO 则会避免，该发现为理解现代 RL
PDF2 years ago
生成对抗网络优化空间的深入探究
本研究通过新的可视化技术研究了 GAN 优化景观，并从理论和实践的角度对 GAN 的训练进行了实证研究，发现 GAN 在训练过程中会显著旋转，并最终收敛于一个稳定的马鞍点而非最小值。
PDF5 years ago
AAAI完全卷积网络优化空间的可视化洞察
本文通过可视化优化地形图，比较了三个基于 FCN 的模型在多个数据集上的性能，并探索了 FCN 中跳过层连接与模型广义能力之间的关系，以及不同批量大小下的损失表面与模型广义能力的关系。
PDF5 years ago
ICLR深度策略梯度的深入探讨
研究了深度策略梯度算法的行为如何反映驱动其发展的概念框架，并提出了对最先进方法的细粒度分析。结果表明，深度策略梯度算法的行为经常偏离其驱动框架所预测的行为，这表明了我们对当前方法的了解不足，并提示需要超越当前基准中心的评估方法。
PDF6 years ago
非凸低秩问题中不存在虚假局部极小点：统一的几何分析
发展了一种新框架，旨在捕捉一般非凸低秩矩阵问题的共同局面，包括矩阵感知，矩阵完成和鲁棒 PCA，在优化风景线的现有分析的基础上进行了连接和简化，自然地导致了不对称矩阵完成和鲁棒 PCA 的新结果
PDF7 years ago