Jun, 2019

高级机器学习系统中学习优化的风险

PDF
TL;DR本文分析了当学习模型（例如神经网络）本身是优化器时所发生的学习优化类型，称之为 mesa-optimization。我们认为，mesa-optimization 的可能性对于先进机器学习系统的安全性和透明度提出了两个重要问题。第一，什么情况下学习模型会成为优化器，包括不应成为优化器的情况？第二，当学习模型是优化器时，它的目标将是什么，它将如何不同于它所训练的损失函数，如何进行对齐？本文对这两个主要问题进行了深入分析，并提供了未来研究的主题概述。
learned optimizationmesa-optimizationmachine learning systemssafetytransparency
发现论文，激发创造
  • 学习优化器的训练动态调查

    深度学习中优化的关键问题是通过学习优化器来加速优化过程，但其稳定性、泛化性仍存在问题。本研究通过分析网络架构对优化轨迹和参数更新分布的影响，研究并对比手动设计和学习优化器的优缺点，提出了关键见解。

    Dec, 2023

  • 揭示 Transformer 中的 Mesa 优化算法

    通过逆向工程一系列经过训练的自回归 Transformer，我们发现其通过梯度驱动的学习中的 mesa-optimization 算法也可被改用于解决少样本监督任务，这表明 mesa-optimization 可能是大型语言模型在上下文学习能力方面的基础。此外，我们提出了一种新的自注意层 ——mesa-layer，它能显式、高效地解决上下文中给定的优化问题，并在合成和初步语言建模实验中展现出更好的性能，从而加强了 mesa-optimization 隐藏在训练的 Transformer 网络权重中的重要性的假设。

    Sep, 2023

  • 理解和校正学习优化器训练中的病态

    通过对学习到的优化函数进行训练以执行特定任务，我们提出了一种训练方案，它可以比经过调整的一阶方法更快地训练卷积网络，并在测试损失上得到改进。

    Oct, 2018

  • 任务、稳定性、架构和计算：训练更有效的学习优化器，并使用它们来训练自己

    本文讲述了利用神经网络参数化的层次优化器提供自动正则化的能力，从而可以训练多种问题的通用学习优化器，可适应超参数和架构的变化，且适用于自我训练等需要解决分布问题的任务。

    Sep, 2020

  • 应用深度学习中的开放问题

    本文探讨了如何通过双层优化问题来优化机器学习机制，并讨论了如何通过自动机器学习（AutoML）等方法来减少迭代步骤的计算成本，以及减少开发人工智能算法的碳足迹。作者还提出了在不同领域中解决这些问题的方法。

    Jan, 2023

  • 大规模机器学习优化方法

    本文讨论了数值优化算法在机器学习应用中的过去、现在和未来。通过文本分类和深度神经网络训练的案例研究，探讨优化问题在机器学习中的出现和挑战，强调了大规模机器学习环境下随机梯度方法的重要性和传统梯度优化方法的局限性。基于这种视角，提出一种简单，通用的随机梯度算法，并讨论其实际表现和改进机会。最后，针对大规模机器学习的下一代优化方法进行了探讨，包括降低随机方向噪声的技术和使用二阶导数近似的方法两大研究方向。

    Jun, 2016

  • 具有理论保证的机器学习非凸优化：鲁棒矩阵补全和神经网络学习

    本文讲述了解释性学习系统是机器学习的一个新趋势，但由于现实数据是由非线性模型生成的，在研究非凸优化问题时，提供可解释性算法是具有挑战性的，本文研究了两个非凸问题：低秩矩阵补全和神经网络学习。

    Jun, 2023

  • 从机器学习的视角调查优化方法

    本研究回顾了机器学习中优化方法的原则、进展和应用，总结了在一些流行的机器学习领域中优化方法的应用和发展，并提出了机器学习中优化的一些挑战和未解决的问题。

    Jun, 2019

  • 机器学习安全性：网络物理系统、决策科学和数据产品

    本论文旨在明确机器学习安全的定义，并通过研究智能决策科学和数据产品等应用领域，探讨实现机器学习安全的四种策略，包括内在安全设计、安全保护垫、安全失败和程序保护，并提出相应的技术方法和异议函数，以确保解释性、因果性、人工参与和用户体验设计等方面的安全性。

    Oct, 2016

  • 学习困难优化问题：数据生成的视角

    本论文研究了通过机器学习解决 NP 困难问题的可行性，指出了训练数据的易变性及其对模型的影响，并提出了改进的方法来适应这个问题。该方法被应用于非线性、非凸、离散组合问题的求解，取得了有效的结果。

    Jun, 2021