- 高斯过程的拉普拉斯近似方法作为模型选择准则
通过引入基于拉普拉斯近似的多种度量标准,我们解决了之前在高斯过程模型的模型选择中存在的性能和运行时间问题,并且在不损失计算速度的情况下,我们的度量标准在质量上与黄金标准动态嵌套采样相当,允许更快速、高质量地对高斯过程模型进行模型选择。
- 一种统一的高斯过程用于分支和嵌套超参数优化
基于新的高斯过程模型和具有新内核函数的统一贝叶斯优化框架,通过一系列合成模拟和实际数据应用的神经网络,观察到更高的预测准确性和更好的优化效率,并执行敏感性分析以提供有关超参数值变化如何影响预测准确性的见解。
- 流形上的内禀高斯向量场
本文提出了适用于在流形上的矢量值信号的新型高斯过程模型,考虑了流形的几何特性,并展示了在二维球面和超平面上部署的 Hodge-Matérn 高斯矢量场以及离散二维网格和理想流形的推广方向。同时,证明了我们的高斯矢量场相较于之前提出的外部场具 - 贝叶斯优化中的随机探索:最优遗憾和计算效率
使用高斯过程模型进行贝叶斯优化,以及基于核的奖励优化方法的研究,其中采用从分布中抽取的随机样本进行域的探索。通过该随机探索方法,我们证明其可以实现最优的误差率,并且我们的方法在无噪声和有噪声环境下均具有理想的后悔保证,同时避免了昂贵的无凸优 - 一种用于工程回归问题的基于物理知识的高斯过程谱
通过结合机器学习技术和基于物理推理的方法,本文引入一系列可能的高斯过程模型,以提高基于有限数据的预测模型建立能力。这些方法可以显著减少对数据收集的依赖,并增强模型的可解释性。
- 多应答异方差高斯过程模型及其推断
通过引入异方差高斯过程(Heteroscedastic Gaussian process regression),并结合协变量引导的精度矩阵过程的混合公式,我们提出了一个新的框架,扩展了异方差高斯过程(HeGP)的概念,从回归任务扩展到分类 - 高斯过程模型在感知和偏好中的选择预测和函数估计中响应时间的改进
本文提出了一种基于三参数分布的新颖可微近似扩展扩散决策模型,该模型结合了人类心理物理学和偏好学习应用的多元数据集,将响应时间纳入高斯过程模型中进行二进制选择预测,提高了潜在价值估计和对未知选择的预测能力。
- ICML在高斯过程模型中改善近似推断下的超参数学习
通过将变分推断用于推理,将边缘似然的直接逼近解决与非共轭似然的高斯过程模型的近似推断的问题
- 基于谱特征的图分类高斯过程
本文提出根据图的结构和节点属性对其进行分类的方法,使用图信号处理中的频谱特征派生两种高斯过程模型进行图分类 —— 第一种,基于图谱频谱能量信号分布的频谱特征;第二种,旨在捕捉图中多尺度和局部的模式,通过学习谱图小波滤波器来获得更好的性能。最 - ICML加法高斯过程再审视
提出了正交加性核(OAK)来代替传统高维交互项的加性高斯过程(GP)模型,能够实现可识别、低维度表示的功能关系,并展示了其在稀疏计算方法中的改进收敛速度和优越的预测性能。
- 通过专家人类知识和 AI 推荐的信息融合来优化临床决策的精准放疗
本文提出了系统的集成专家人员的知识和 AI 推荐的方法,使用高斯过程模型和深度神经网络来量化医师和 AI 的推荐给出的治疗结果的不确定性,并将其用作指导临床医师和提高 AI 模型性能的准则,在一个综合数据集上演示了该方法
- AAAI带收缩先验的组合稀疏高斯过程学习
本文提出了一种有效的方法:使用 Horseshoe 先验处理核函数的稀疏性来学习核组合,提供更好的匹配度和更短的计算时间。
- ICML状态空间期望传播:时态高斯过程的高效推断方案
本研究提出了一种在 Kalman 平滑过程中应用的简单参数更新规则,将非共轭时空高斯过程模型中的近似贝叶斯推理公式化,包括大部分推理方案,如 EP、经典 Kalman 平滑器和变分推理,并提供了这些算法的统一视角。
- 双稀疏变分高斯过程
本文提出了结合 inducing points 和 state-space formulation 的方法,并给出了相应的 varitational parameterisation 公式,该方法在深度高斯过程模型中的应用效果明显。
- 高斯过程全贝叶斯回归的近似推理
本文介绍了高斯过程模型中两种推断超参数后验分布的方法,一种是哈密顿蒙特卡罗(HMC)求解采样近似,另一种是变分推断(VI),其中超参数后验分布被近似为一个因子化的高斯分布或全秩高斯分布,该文分析了完全贝叶斯高斯过程回归在多个基准数据集上的预 - 高斯过程的元学习均值函数
在短缺数据情况下,为贝叶斯机器学习模型提供适当的先验知识是主要挑战。最近元学习的进展提供了从相关任务中获得这些先验知识的强大方法。本文探索了高斯过程先验的平均函数元学习,提供了分析和经验证据表明均值函数的学习对于元学习是有用的,讨论了过拟合 - 未知超参数的无悔贝叶斯优化
本文提出了第一个无后悔的贝叶斯优化算法,它在没有核心参数的先验知识的情况下,可以收敛到最优点。通过在优化过程中逐步调整静态核的超参数并随时间扩展相关函数类,该算法可考虑更复杂的函数候选项。
- ICML实证的不动点分岔分析
通过结构化的模型描述参数变化对于质量体系行为的影响,特别是引入高斯过程模型的转化图扩展,通过与固定点和相关局部线性化直接参数化学习到的转化图,恢复了一个一维系统的行为,并学习了一个更加现实的相互抑制的二维神经元群体的行为。
- 线性不等式约束下的有限维高斯近似
通过引入不等式约束条件,我们可以采用有限维高斯方法来处理线性不等式集,并探索使用马尔可夫链蒙特卡洛技术来近似后验分布,研究了关于协方差参数估计的约束似然函数的理论和数值特征。实验证明基于哈密顿蒙特卡洛取样器的全框架能够提供有效的数据拟合和不 - MMAutoGP: 探索高斯过程模型的能力和限制
该论文研究了高斯过程模型的能力和局限性,提出了一种具有可扩展性和统计效率的推理方法,探索了灵活的内核和用于学习超参数的客观函数。通过实验结果表明,这种方法在标准 MNIST 数据集上的性能优于所有之前报告的 GP 方法,并在 MNIST8M