Nov, 2020

荒凉高原对无梯度优化的影响

PDF
TL;DR该文研究了关于到底梯度自由优化器对于荒芜高原问题是否受影响存在争议，通过数值实验和理论分析，发现在荒芜高原情况下，梯度自由优化器无法解决问题，因为成本函数差异在荒芜高原被指数抑制，使得梯度自由优化器无法在优化过程中取得进展。
barren plateauquantum optimizationgradient-free optimizerscost function differencesexponential suppression
发现论文，激发创造
  • 关于变分量子算法中贫瘠高原和成本函数局部性的研究

    本文研究基于梯度优化的变分量子算法，分析了在表达能力足够强的参数化量子电路中，指数级消失的梯度现象 —— 荒原高原。提出了梯度的方差下界，主要取决于费用函数中每个项的纠缠锥体宽度，进一步阐明了荒原高原可能的条件。

    Nov, 2020

  • 用量子优化控制工具诊断贫瘠高原

    本文研究了通过量子优化控制诊断基于问题的变分量子算法的荒原高原现象，证明了微调度系的可控性对 VQA 的梯度缩放具有影响，并建立了荒原高原与 Lie 代数维度缩放之间的联系。

    May, 2021

  • 变分量子计算中贫瘠高原的综述

    变分量子计算通过在不同领域中应用提供了一种灵活的计算模式。然而，实现其潜力的一个关键障碍是荒漠高原现象。本文提供了对荒漠高原现象的当前理解的全面回顾。

    May, 2024

  • 机器学习中的懒惰性、平台性和噪音

    通过对神经网络中变分参数的大量抑制来定义惰性，其中量子情况下的抑制对于随机化变分量子电路的量子比特数量呈指数衰减。我们讨论了惰性与由量子物理学家在文献中创建的量子机器学习中的荒漠高原的差异，对梯度下降期间损失函数的平坦情况进行了讨论。同时，我们揭示了在一定的噪声模型下，量子变分算法对于过度参数化的噪声具有弹性。

    Jun, 2022

  • 证明无无所谓的平原是否意味着经典仿真？或者，为什么我们需要重新思考变分量子计算

    基于对贫瘠高原现象的理解，本文探讨了一个引人注目的问题：利用允许避免贫瘠高原的结构是否也可以用于在经典上高效模拟损失，通过在初步数据获取阶段从量子设备中收集一些经典数据，我们表明常用的具有可证明无贫瘠高原的模型也可以在经典上模拟，这对于参数化量子电路的非经典信息处理能力以及在量子硬件上运行的超多项式优势的可能性提出了严重质疑，最后讨论了我们观点中的警示性因素、智能初始化的作用，并强调了新的机遇。

    Dec, 2023

  • 纠缠引发的无效平台

    量子神经网络中过量的量子纠缠会妨碍学习，且通常存在着由纠缠引起的优化荒原；预训练这些生成模型可能会提供一种规避荒原的方法。

    Oct, 2020

  • 基于多能级量子位的贫瘠高地

    通过细致的分析，本研究揭示了多维量子比特的维度与贫瘠平台之间的直接关联，并通过数值结果展示了多维量子比特对贫瘠平台的影响，同时对基于多维量子比特的 VQA 的误差缓解技术的功效提出了进一步的审视。

    May, 2024

  • 量子神经网络训练景观中的贫瘠高原

    本文研究了嘈杂中等规模量子设备的参数化量子电路的梯度估计和优化问题。作者指出，由于希尔伯特空间的指数维度和梯度估计复杂度，随机电路不适用于超过少量量子比特的混合量子 - 经典算法。

    Mar, 2018

  • 超越贫瘠高原：量子变分算法被陷阱所淹没

    通过研究局部极小值和 Barren 高原现象，证明在全局最小能量附近未知最优参数的情况下，一类浅而无 barren 高原的变分量子模型具有很少的局部极小值，以至于在没有好的初值参数的情况下无法进行训练。此外，通过统计查询框架研究变分量子算法的可训练性，并表明大多数量子模型的噪声优化都需要指数级的查询数，虽然有希望通过研究某些类别的变分算法来解决这个问题。

    May, 2022

  • 解决参数化量子电路中贫瘠高原问题的初始化策略

    文章提出了一种随机参数初始化生成浅层块的量子电路初始化策略，以应对梯度消失问题，实现了基于梯度的训练方法，解决了过去针对基本问题不能使用最紧凑的量子电路的问题。

    Mar, 2019