optimization landscape | BriefGPT

关键词optimization landscape

搜索结果 - 26

Adam 和随机梯度下降优化的全局最小值非收敛问题及人工神经网络训练中的局部最小值构建
在对使用 ReLU 和相关激活函数的浅层人工神经网络进行研究中，我们发现随机梯度下降（SGD）方法（如纯独立 SGD、动量 SGD、AdaGrad、RMSprop 和 Adam 优化器）高概率无法收敛到全局最小值，并证实了 ANN 训练问题
PDF5 months ago
对齐上界：从人类反馈中的强化学习目标不匹配
用来自人类反馈的强化学习技术已经成为一个强大的工具，使得大型语言模型在复杂环境中更容易引导，更具能力。然而，由于奖励模型、策略模型和评估模型之间的不一致性，存在目标不匹配的问题。本文探讨了这个问题的原因，并回顾了相关的模型学习和强化学习文献
PDF8 months ago
政策优化中的分形景观
深度强化学习中，政策梯度是连续领域的核心，但在实践中往往观察到政策梯度训练在许多原因下可能失败，我们提出了一个框架来理解政策梯度方法的一种固有局限性：对于某些类别的马尔可夫决策过程（MDPs），策略空间中的优化景观可能极其非平滑或者呈分形结
PDF8 months ago
优化解决方案采样器的组合问题：策略梯度方法的景观
深度神经网络和强化学习方法在解决复杂的组合问题方面取得了显著的实证成果，本文引入了一种新的理论框架来分析这些方法的有效性，回答了存在生成模型能够生成近似最优解、拥有易处理的参数数量以及优化结果无次优静态点等问题，并介绍了一种新的正则化过程，
PDF9 months ago
调查策略梯度算法中行动表示的影响
强化学习是一种用于解决复杂实际问题的多功能学习框架，本研究讨论了不同的分析技术，并评估它们对于研究强化学习中行为表示对学习性能的影响的有效性。实验证明行为表示对流行强化学习基准任务的学习性能有显著影响，分析结果指出性能差异的一部分可以归因于
PDF10 months ago
多光谱卫星图像云检测中的核心 - 目标对齐优化
本文介绍了基于 Kernel-Target Alignment（TA）的优化方法，能够将高成本的电路替换为中等规模的任务专用电路，旨在减少量子分类器中的硬件资源，并提出了一个简单的玩具模型来研究其优化概况。通过实验证明，对于欠参数化的电路，
PDFa year ago
DoE2Vec: 基于深度学习的特征用于探索性地形分析
DoE2Vec 是一种基于变分自动编码器（VAE）的方法，用于学习设计实验（DoE）的优化景观特征，不需要任何功能工程，可适用于高维搜索空间，并可显着提高分类任务的性能。
PDFa year ago
ICLR非凸优化中伽玛凸函数的连续加速
本文研究了具有 quasar 凸性的函数的最优解算法，提出了一种可以实现加速线性收敛的算法，在广义线性模型方面有广泛的应用。
PDFa year ago
神经网络在均方误差损失下的优化景观：无约束特征下的全局最优性
在分类任务的深度神经网络训练中，观察到了一个现象，称为神经崩溃，它似乎无论损失函数的选择如何，都会在最后一层分类器和特征中发生。作者提供了在均方误差损失下，神经崩溃解决方案是唯一的全局极小值，并且研究了调整超参数来改善优化景观的可能性，最后
PDF2 years ago
GradSign: 基于理论洞察的模型性能推理
提出了一个新的度量标准 GradSign，用于神经架构搜索中的模型性能推断任务，通过分析不同网络的优化景观，准确、简单、灵活地预测网络的性能，在三个训练数据集上的七个基准测试中，GradSign 的表现都优于现有的基于梯度的方法，将其集成到
PDF3 years ago
量子退火初始化量子近似优化算法
研究了 QAOA 在 MaxCut 问题上的优化问题，指出随机初始化容易陷入低级局部最小点，通过 Trotterized quantum annealing 协议实现参数初始化，并找到最佳的 Trotter 时间步长，这为在近期量子设备上实
PDF3 years ago
ICML使用标准化层训练的 ReLU 神经网络的优化理论
本文研究了引入规范化层对神经网络的全局收敛速度和优化效果的影响，证明了在引入 Weight Normalization 后，具有 ReLU 激活函数的两层神经网络可以加速收敛。
PDF4 years ago
浅层 ReLU 神经网络的过度参数化对优化空间的影响
本文研究了 ReLU 神经网络中的过度参数化对优化景观的影响，证明了当教师和学生网络拥有相同数量的神经元时，目标函数在全局最小值周围具有强凸性，但在任何超参数化量之后甚至没有局部凸性，而对于大多数方向来说保持一点强凸性，并在此属性之下展示优
PDF4 years ago
ICLR超越线性化：关于宽神经网络的二次及高阶逼近
该研究探讨了超参数化神经网络的训练，通过随机化神经网络，使其模型不再受限于 NTK，允许其与二次模型进行耦合，并且证明了产生的随机网络的优化具有良好的局面性态，且样本复杂度与 NTK 相匹配，同时在分布特定条件下可更为优秀。
PDF5 years ago
深层 ResNets 是否能被证明比线性预测器更好？
本研究利用几何条件证明了多跳连接可以改善优化过程中的局部极小值问题，并证明了在 ResNet 的优化空间中的任何关键点要么优于最佳线性预测器，要么其 Hessian 矩阵有严格负的特征值。同时，我们还证明了深度残差网络的 “接近恒等区域”
PDF5 years ago
ICLR使用顺序非标准动力学改善循环神经网络的记忆能力
探讨使用非正常的重复神经网络（RNNs）以解决梯度 “消失 / 爆炸” 的问题并提高 “信噪比”。研究显示，具有非正常的重复连接矩阵的非正常 RNN 可以在序列处理任务中胜过其正交对应物。
PDF5 years ago
ICML深度网络训练中课程学习的威力
本研究分析了课程学习对深度神经网络训练的影响，使用转移学习和自举法解决难度排序问题，以及不同的步伐函数指导采样，并最终证明其有效地修改了优化模型的全局最小解。
PDF5 years ago
知识蒸馏压缩生成对抗网络
本研究提出了使用知识蒸馏技术压缩生成对抗网络 (GANs) 参数的方法，使得在固定参数预算内，压缩后的 GANs 可以产生比标准训练方法更高质量的图像。我们观察到 GANs 的压缩有其定量的极限，并且过度参数化的 GANs 优化问题对交替梯
PDF5 years ago
神经网络宽度对性能的好处：不良盆地的消失
本文证明了从窄网络到宽网络的过渡存在一个相变，窄网络存在次优盆地（sub-optimal basins），而宽网络不存在。具体地，采用连续激活函数的一类宽网络损失曲面没有亚优盆地，但是对于宽度低于阈值的大类网络，存在不是全局最小值而是严格局
PDF6 years ago
ICML熵对策略优化的影响理解
本文研究了使用熵正则化提高强化学习策略优化的方法，探讨了高熵策略能使得优化过程更为平滑，从而帮助穿过局部优化点，但挑战在于设计通用的策略优化算法。
PDF6 years ago