训练高斯过程的量子算法
高斯过程是机器学习中常用的概率模型之一,本研究提出了一种基于希尔伯特空间逼近的量子算法,用于解决高斯过程回归中数据集规模大导致的计算复杂性问题。该方法结合了经典基函数展开和量子计算技术,利用量子主成分分析、条件旋转、Hadamard 和 Swap 测试等技术来评估高斯过程的后验均值和方差,从而实现了多项式的计算复杂性降低。
Feb, 2024
提出了利用 Chebyshev、Lanczos 和代理模型的随机估计方法,从只有快速矩阵 - 向量乘法(MVM)的情况下,估计大小为 $n imes n$ 的正定矩阵及其导数的对数行列式。这种方法可以有效地解决 Gaussian process 等问题中的矩阵计算问题。研究发现,在 Chebyshev 和 Lanczos 中,Lanczos 通常优于 Chebyshev,而采用代理方法的速度快且准确。
Nov, 2017
本文提出了一种基于量子核的高斯过程回归方法,并利用硬件高效特征映射和 Gram 矩阵的精细正则化,展示了量子高斯过程的方差信息可以被保留,以及它可以作为贝叶斯优化的代理模型,最后将该模型应用于机器学习模型的超参数优化,并以实际数据集为例,与经典的贝叶斯优化进行比较,展示了量子版本的性能可以匹配。
Apr, 2023
本文提出一种无需完全核矩阵的矩阵分解即可计算的高斯过程回归模型的对数边际似然的下界。我们通过最大化我们的下界来学习模型参数的近似最大似然方法保留了许多稀疏变分方法的优点,同时减少了参数学习中引入的偏差。我们的方法通过对出现在对数边际似然中的对数行列式项进行更仔细的分析,以及使用共轭梯度法导出涉及二次形式的项的紧凑下界,从而在统一依赖下界最大化的方法和基于共轭梯度的迭代方法的训练高斯过程方面迈出了一步。实验结果表明,相对于其他基于共轭梯度的方法,在相当的训练时间内,我们的模型具有更好的预测性能。
Feb, 2021
本文针对加性 Matern 高斯过程,提出基于后向逼近算法的计算方法,计算后验均值、方差、似然函数和梯度的复杂性从 O (n^3) 降低到 O (nlogn),并应用于贝叶斯优化中,提出了后验更新、超参数学习、习得函数和其梯度的有效算法。
Apr, 2023
本论文构建了一个高效的量子矩阵反演算法(HHL)的经典模拟器,基于 Tang 的最近研究成果,通过对输入数据进行长度平方采样,实现了低秩矩阵的伪逆并使用快速抽样技术从问题 $Ax=b$ 的解中采样。本文通过子采样来找到 $A$ 的近似奇异值分解,从而实现伪逆。该方法也可用于把任何期望的 “平滑” 函数应用到奇异值上。既然许多量子算法可以表示为奇异值变换问题,我们的结果表明更多的低秩量子算法可以有效地 “去量子化” 成为使用长度平方采样的经典算法。
Nov, 2018
本研究介绍了一种新的算法和理论视角,通过预处理来优化计算 Gaussian 过程中超参数的对数行列式及其导数,证明了其可行性,并在大规模基准问题上进行了实证验证,取得了杰出的效果。
Jul, 2021
本研究提出了一种基于牛顿法的新型算法,用于解决优化问题,该问题是一个正则化的对数行列式程序,能够从非常有限的样本中恢复稀疏逆协方差矩阵,或者是高斯马尔科夫随机场的基础图结构,并通过合成和真实的应用数据实验结果表明,与其他最先进的方法相比,我们的方法在性能上有了显着的改进。
Jun, 2013
本文提出了一种基于量子机器学习和优化方法的梯度下降算法,通过解决线性方程组问题,构建了一种基于 QRAM 数据结构模型的量子线性系统求解器,并应用于求解正定线性系统和权重最小二乘问题,具有较小的计算成本和内存需求。
Apr, 2017