- 面向 FPGA 的硬件感知神经网络丢弃搜索用于可靠的不确定性预测
提出了一种新的神经随机丢失搜索框架,旨在自动优化既有基于 dropout 的 Bayesian 神经网络及其硬件 FPGA 实现,实验结果表明该框架能够有效地找到 Pareto 最优设计配置。
- 在 FPGA 上增强基于 Dropout 的贝叶斯神经网络的多出口
本文提出了一个算法和硬件协同设计框架,该框架可以为高效的基于 FPGA 的 Bayesian 神经网络生成加速器,以减少计算和内存负载,并实现更高的能源效率。
- 稀疏贝叶斯网络:医学图像分析中高效的不确定性量化
通过选择性地通过梯度敏感性分析评估确定性显著性,本研究引入了对稀疏(部分)贝叶斯网络的训练过程。通过将确定性参数与贝叶斯参数相结合,充分利用两种表示的优点,实现了高效的特定任务性能和最小化的预测不确定性。在多标签 ChestMNIST 分类 - 用变分推断训练的贝叶斯神经网络的中心极限定理
本文通过严密推导,针对贝叶斯两层神经网络在无穷宽度限制下采用变分推断方法进行回归任务训练,证明了它们的中心极限定理(CLT)。该研究比较了不同网络训练方案的波动行为,发现最小化变分推断方法在计算复杂度上具有更高效的优势。
- 贝叶斯与 PAC-Bayesian 深度神经网络集成
贝叶斯神经网络通过学习模型参数的后验分布来解决认知不确定性问题。使用该后验进行抽样和加权网络,从而形成一个被称为贝叶斯集合的集合模型。相对于个别网络,深度集合可以受益于误差抵消效应,提高预测性能。本文论证了贝叶斯集合的抽样和加权方法并不适合 - 贝叶斯神经网络中用于明确定义函数空间变分推断的正则化 KL 散度
Bayesian 神经网络以贝叶斯理念结合了神经网络的预测性能和对安全关键系统和决策制定至关重要的原则性不确定性建模。但是后验不确定性的估计取决于先验的选择,而在权重空间中找到信息量丰富的先验证明非常困难。为了解决这个问题,我们使用了一种基 - 基于贝叶斯神经网络的随机优化问题学习解决方案
使用贝叶斯神经网络和随机规划技术的预测不确定性建模,以降低决策风险和提高决策质量。
- 近似贝叶斯推断中的重参化不变性
Bayesian 神经网络的近似后验在重新参数化下保持不变的问题被证明在线性化拉普拉斯近似中得到缓解。通过发展一种新的几何观点来解释线性化的成功,并利用 Riemann 扩散过程将这些重新参数化不变性扩展到原始神经网络预测,从而提出了一种简 - 少样本微调中扩散模型的破坏阶段研究及贝叶斯神经网络的缓解
少样本微调的扩散模型存在训练过程中的图像质量退化现象,通过使用贝叶斯神经网络来解决这一问题,可以有效改善生成图像的质量和多样性。
- 评估贝叶斯深度学习用于射电星系分类
评估不同的贝叶斯神经网络对于无线电星系分类问题的预测性能、不确定性校准和分布漂移检测的表现。
- 不确定性评估的模型平均信任包装器在异常检测中的应用
本文提出了一种创新方法,称为 “信任套件”,用于模型平均的贝叶斯神经网络(BNN)和深度集成的置信区间表示,能够提高分类任务中的不确定性估计。
- 加速反应流高保真模拟的概率传递学习方法
利用贝叶斯神经网络和自编码器来降低状态空间的维度,将知识从源域传递到目标域,该新颖的概率迁移学习框架在低维度和稀疏数据情境下能够正确预测热化学状态,并且比现有的确定性迁移学习策略所需的数据量少四倍。
- 任意非线性贝叶斯神经网络的小样本变分推断
本研究通过仅使用 3 个确定性样本来传播统计矩,实现了对任意非线性网络层的统计矩传播,从而使得少样本变分推断成为可能,并将此方法应用于一种新的非线性激活函数,用于向 Bayesian 神经网络的输出节点注入物理先验信息。
- 攻击贝叶斯:贝叶斯神经网络的对抗鲁棒性
贝叶斯神经网络并不具备固有的对抗攻击鲁棒性,而近期的研究表明对抗性样本导致神经网络在各种视觉和语言任务上失效。该研究通过研究三个任务的对抗鲁棒性来验证贝叶斯神经网络的鲁棒性,结果表明即使使用相对不复杂的攻击方法,使用最先进的近似推断方法和哈 - 贝叶斯神经网络的隐式生成先验
本文提出了一种新颖的神经自适应经验贝叶斯(NA-EB)框架,该框架结合了变分推断和梯度上升算法,以实现同步超参数选择和后验分布的近似,从而提高计算效率,并通过对各种任务的广泛评估展示了我们提出框架在预测准确性和不确定性量化方面的优越性。
- 基于贝叶斯神经网络的具备不确定性感知的合成孔径雷达目标识别:抵御对抗攻击
提出了一种基于贝叶斯神经网络的新颖不确定性感知合成孔径雷达自动目标识别系统,可以检测到对 RAS 图像进行的敌对攻击,并生成可视化解释,帮助人类决策者判断敌对攻击证据。实验证明该方法能够识别超过 80% 的敌对 RAS 图像,误报率低于 2 - AI - 边缘设备下多智能体分布式学习的不确定性估计
利用 FPGAs 和 AI 加速器,边缘物联网设备实现了计算能力的大幅提升,研究探讨了通过 AI 设备实现分布式数据处理的方法,并提出了在分布式学习环境中管理不确定性的一种新方法,即贝叶斯神经网络。
- 关于深度贝叶斯神经网络后验的局部自适应可扩展扩散采样方法的收敛性
深度神经网络的鲁棒性不确定性量化是许多深度学习应用的重要需求,贝叶斯神经网络是建模深度神经网络不确定性的一种有前景的方法,但从神经网络的后验分布中生成样本仍然是一个重大挑战。在本文中,我们展示了这些方法在采样分布时可能存在显著偏差,即使在步 - 限制性贝叶斯神经网络
这项研究探索了贝叶斯神经网络的概念,并提出了一种新颖的架构来显著减少网络的存储空间复杂性。此外,我们介绍了一种能够高效处理不确定性的算法,确保强健的收敛值而不会陷入局部极小值的问题,特别是在目标函数缺乏完美凸性的情况下。
- 自信的先验是否可以取代冷漠的后验?
图像分类中使用的基准数据集往往具有非常低的标签噪声。当贝叶斯神经网络在这些数据集上进行训练时,它们往往会欠拟合,错误地表示数据的不确定性。一种常见的解决方法是通过冷却后验,这提高了对训练数据的拟合,但从贝叶斯的角度来解释具有挑战性。我们探讨