量子自适应分布搜索进行连续优化
本文提出了结合协方差矩阵自适应技术和档案映射技术以维持多样性的新型 quality diversity 算法 (CMA-ME),在连续空间的测试表明,CMA-ME 相较于 MAP-Elites 能够找到更好的解决方案以及策略多样性,表现翻倍。此算法对于同时探索和优化连续搜索空间有着极大的应用价值,可以应用于设计、测试和强化学习等领域。
Dec, 2019
近年来,变分量子算法(VQAs)作为在 NISQ 时代解决量子计算机上的优化问题的一种有前途的方法已经出现。然而,VQAs 的一个限制是它们对于特定问题或硬件配置可能不适合的固定结构电路。应对这个问题的一种主要策略是自适应 VQAs,通过添加和移除门来动态修改电路结构,并在训练过程中优化其参数。本文通过分析三种自适应 VQAs(进化变分量子特征求解器(EVQE),可变组态(VAns)和随机自适应 VQE(RA-VQE))来填补这一领域现有方法之间缺乏系统比较的空白。为了将这些算法与传统的 VQA 进行比较,我们还在分析中包括了量子近似优化算法(QAOA)。我们将这些算法应用于 QUBO 问题,并通过检查找到的解的质量和所需的计算时间来研究它们的性能。此外,我们还调查了超参数选择如何影响算法的整体性能,强调了选择适当的超参数调整方法的重要性。我们的分析为面向近期量子设备设计的自适应 VQAs 设定了基准,并为指导未来的研究提供了宝贵的见解。
Aug, 2023
本文研究了 CMA-ES 的在线自适应方法 self-CMA-ES,旨在优化连续非线性问题的超参数设置,实验结果表明 self-CMA-ES 可以使得优化性能接近最优设置。
Jun, 2014
本文提出使用 CMA-ES 算法作为深度神经网络超参数优化的一种可行的选择,通过一个 MNIST 数据集的卷积神经网络的 toy experiment,对比了 CMA-ES 和 Bayesian 优化算法在 30 个 GPU 并行计算下的效果。
Apr, 2016
CMA-MAE solves limitations encountered by QD algorithms by exploring flat objectives and improving performance for low-resolution archives, achieving state-of-the-art performance through its focus on quality diversity and objective exploration.
May, 2022
在本文中,我们提出了一种新颖的量子位架构搜索(QWAS)方法,通过将搜索空间划分为好的和坏的子区域,逐步搜索每个阶段的单量子位配置,并结合蒙特卡洛树搜索算法,在某些真实任务(如 MNIST,Fashion 和 MOSI)中平衡电路性能和大小的探索和开发,达到了准确率和电路大小方面的最新结果。
Mar, 2024
为了在分布式模型训练中平衡通信成本、模型容量和模型性能,本文提出了分布式训练的量化复合镜像下降自适应子梯度(QCMD adagrad)和量化正则化双均值自适应子梯度(QRDA adagrad)算法,利用梯度量化和稀疏模型降低每次迭代中的通信成本,并构建一个基于梯度的量化自适应学习率矩阵来实现通信成本、准确性和模型稀疏性之间的平衡,同时采用了阈值量化策略来提高信噪比和保持模型的稀疏性。
Aug, 2022
我们实现了一种基于自动差分的量子最优控制算法,并利用图形处理器的加速。我们的策略有助于在经济实惠的台式机上进行高效的数值模拟,包括探索与现实实验有关的各种优化约束和系统参数。我们演示了基于精细评估中间时间步骤的性能优化的量子演化,从而实现对演化路径的更加复杂的控制。
Dec, 2016
通过研究发现深度模型的梯度统计在训练过程中发生变化,于是引入两种自适应量化方案 ALQ 和 AMQ,显著改善了 CIFAR-10 和 ImageNet 的验证准确率,且更具鲁棒性。
Oct, 2020