本文介绍了一种基于基函数扩展表达的非线性状态空间模型,通过连接高斯过程发展先验条件对系数进行学习,进而使用最先进的序贯蒙特卡罗方法进行系数学习,结果表明该方法在经典基准数据集和真实数据上取得了良好的结果。
Mar, 2016
本文提出使用随机变分推断基于随机特征扩展来训练 Deep Gaussian Process 模型的方法,该方法在多个数据集上均具有可扩展性和良好的性能,实现了量化不确定性的精确估计。
Oct, 2016
本文介绍了一种用高斯过程状态空间模型进行高效贝叶斯学习的方法,其中高斯过程投影到利用先验协方差结构导出的一组近似特征函数集合上。通过谨慎设计的粒子 MCMC 算法,可以在这种模型家族下进行学习。相比传统的系统识别工具或现有的学习方法,我们在模型不确定性的可靠量化方面表现更具竞争力。
Jun, 2015
提出了一种名为 “随机集合价值扩展(STEVE)” 的新型基于模型的技术,通过动态插值来消除模型中的错误,与以往的基于模型的方法不同,该方法在复杂环境下不会降低性能,并在具有挑战性的连续控制基准测试中提高了一个数量级的样本效率。
Jul, 2018
通过将贝叶斯神经网络与传统机器学习算法(如随机森林、梯度提升、支持向量机)协同集成的一种新方法,强调了特征集成在优化中的重要性,包括优化的二阶条件,如哈西矩阵的定态性和正定性。与此相反,超参数调整对于改善预期改进(EI (x))的影响有所削弱。总体而言,集成方法作为一种稳健的、算法优化的方法表现出色。
Oct, 2023
高维模型中的高效推理是机器学习中的一大挑战。本文介绍了高斯集成信念传播算法(GEnBP),它是集合卡尔曼滤波器和高斯信念传播方法的融合。GEnBP 通过图模型结构中的低秩局部消息传递来更新集合,结合了每种方法的优点,能够处理高维状态、参数和复杂、嘈杂、黑盒子生成过程。GEnBP 特别适用于集合大小远小于推理维度的情况,常见于时空建模、图像处理和物理模型反演等领域。GEnBP 可应用于包括联合学习系统参数、观测参数和潜在状态变量在内的一般问题结构。
Feb, 2024
本文提出了利用高斯过程回归中自然产生的信息理论特性的主动学习策略,尊重系统动态 imposed 约束下的抽样过程,并在高不确定度区域选择抽样点,以实现探索性行为和数据高效训练。该方法在大量数值基准测试中得到验证。
Nov, 2019
利用基于分数的采样方法引入集合模型,从而通过利用粒子集合的集体动力学来计算近似反扩散漂移,解决了在概率分布复杂、梯度不可用的情况下建模的问题。
Jan, 2024
通过研究深度神经网络的损失函数平面的同构性,我们证明了深度集合优于贝叶斯神经网络在提高准确度和对数据集变化的鲁棒性方面,并发现随机初始化的权重可以探索不同的函数空间而产生更多样的结果。
Dec, 2019
使用高斯过程的机器学习方法来优化制备玻色 - 爱因斯坦凝聚体的过程,该方法能够 10 倍加快传统优化技术的速度,同时还能够提供关于实验优化的重要参数的洞察。
Jul, 2015