贝叶斯学习规则
将数据选择作为决策问题,并通过导出相应的贝叶斯准则为半监督学习中的自我训练等问题提供了贝叶斯最优选择数据的方法。根据模拟和真实数据的实证评估,我们进一步展示了该准则在广义线性模型、半参数广义加性模型和贝叶斯神经网络上减轻了确认偏差的问题。
Jun, 2024
本文提出了一种基于贝叶斯学习规则的方法来解决训练二进制神经网络的有限制的问题。该算法不仅能够获得最先进的性能,而且还能够估计不确定性以避免灾难性遗忘。
Feb, 2020
本研究基于贝叶斯优化框架,建立高斯过程模型,通过前期实验获得的信息来优化机器学习算法的超参数调整,作者提出可以超过经验人类调参表现的自动算法,并介绍收集实验信息、利用多核心并行实验等新算法。
Jun, 2012
贝叶斯方法在深度神经网络中应用广泛,因为它通过边缘化取代优化,能够提高模型的校准性和准确性,并利用神经网络结构中的先验偏好来帮助泛化。此外,最近的贝叶斯深度学习实践进展也提高了模型的准确性、校准性和可伸缩性。
Jan, 2020
我们提出了一种通用理论来优化顺序学习问题的频率后悔,从统一的贝叶斯原理中可以得出高效的 Bandit 和强化学习算法。我们提出了一种新的优化方法,在每一轮生成 “算法信念”,并使用贝叶斯后验进行决策。这种优化目标被称为 “算法信息比”,代表了一种有效地表征任何算法的频率后悔的内在复杂度度量。在我们的知识范围内,这是第一种系统的方法,使贝叶斯类型的算法在先验自由和敌对环境中以通用和最优的方式适用。此外,这些算法简单且实现通常高效。作为一个重要的应用,我们提出了一种新颖的多臂赌博机算法,在随机、敌对和非平稳环境中实现了 “兼顾所有优点” 的实证性性能。我们还说明了如何在线性赌博机、赌博机凸优化和强化学习中应用这些原理。
Oct, 2023
引入了一种贝叶斯机器科学家,它使用对模型的后验分布的明确逼近来确定模型的合理性,并通过从数学表达式的大量经验语料库中进行学习来确定模型的先验期望。该方法可以自动从数据中提取精确的模型,并且在合成数据和真实数据上提供比现有方法和其他非参数方法更准确的外样本预测。
Apr, 2020
本文介绍了一种利用深度神经网络和近似贝叶斯推理相结合的广义深度生成模型,并引入了用于表示近似后验分布的识别模型,并利用随机反向传播来开发算法,实现生成和识别模型参数的联合优化,最终将模型应用于实际数据集,生成更真实的分布、准确地恢复缺失数据,并在高维数据的可视化上发挥了重要作用。
Jan, 2014