贝叶斯Kolmogorov阿诺德网络(Bayesian_KANs):提高准确性和可解释性的概率方法
研究在医学上,使用其他深度神经网络模型方法来捕捉模型的不确定性,以确定模型决策是否在个体患者上具有一定程度的可靠性,同样通过贝叶斯嵌入,RNN模型可以更有效地捕获模型的不确定性,研究分析模型不确定性受各种输入特征以及患者亚组的影响。
Jun, 2019
基于贝叶斯神经网络的深度学习模型用于预测由于数据噪音引起的不确定性。高度不确定的实例对模型性能有害。通过研究模型预测和不确定性的分布,可以识别一组病人以进行及时干预。
Jul, 2019
本研究提出了一种基于后验正则化的近似贝叶斯推断方案,可以用未标记的目标数据作为模型置信度的“伪标签”,这些伪标签被用于调整标记源数据上的损失,显著提高了协变量移位数据集的不确定性量化准确性,适用于转移前瞻性前列腺癌模型在全球范围内的应用。
Jun, 2020
神经网络在各个问题领域取得了显著的表现,但其普适性受到其内在限制的阻碍,如预测上的过度自信、解释能力的欠缺和对对抗攻击的易受攻击性等。为了解决这些挑战,贝叶斯神经网络(BNNs)已成为传统神经网络的引人注目的扩展,在预测能力中整合了不确定性估计。本文系统地介绍了神经网络和贝叶斯推理的基本概念,阐明了它们对BNNs的协同集成的发展。目标受众包括具有贝叶斯方法背景但缺乏深度学习专业知识的统计学家,以及具有有限贝叶斯统计知识但精通深度神经网络的机器学习专家。我们概述了常用的先验知识,分析了它们对模型行为和性能的影响。此外,我们还深入探讨了在BNN研究领域内的先进主题,承认了不断进行的辩论和争议。通过提供对前沿发展的深入洞察,本文不仅为研究人员和实践者提供了BNNs方面的坚实基础,还展示了该动态领域的潜在应用。作为宝贵的资源,它促进对BNNs及其前景的理解,推动知识和创新的进一步发展。
Sep, 2023
采用AI进行医疗决策仍面临伦理和安全方面的问题。研究表明常用的深度学习方法对数据漂移过于自信,却未能在临床应用中可靠地识别异常样本,暴露了其可靠性不足的问题。存在着更加严格或内生于已知数据点的方法的需求,例如使用基于核的技术。
Jan, 2024
基于深度学习的医学图像分割在许多任务上达到了最先进的性能。然而,最近的研究表明深度神经网络可能会出现错误校准和过度自信的问题,从而导致临床应用中的潜在失败。贝叶斯统计提供了一种直观的方法来检测深度学习的失败,基于后验概率估计。然而,对于大规模医学图像分割深度神经网络来说,贝叶斯深度学习和后验估计都是难以处理的。为了解决这个挑战,我们提出了一种基于哈密尔顿蒙特卡洛法和冷后验的贝叶斯学习框架,用于医学数据增强,命名为HMC-CP。通过循环退火策略,我们进一步提出了HMC计算方法,捕捉后验分布的局部和全局几何特征,以与训练单个深度神经网络相同的计算预算要求高效地进行贝叶斯深度神经网络的训练。所得到的贝叶斯深度神经网络输出一组分割结果以及分割的不确定性。我们在心脏磁共振图像分割领域广泛评估了所提出的HMC-CP方法,使用了域内稳态自由进动序列(SSFP cine)图像以及域外的量化$T_1$和$T_2$映射数据集。
Mar, 2024
本文研究了在深度神经网络中建模不确定性对生存分析的预测和校准性能的好处,提出了一个贝叶斯深度学习框架,评估了四个基准数据集上的预测表现,并与传统非贝叶斯方法进行比较。
Apr, 2024
通过选择性地通过梯度敏感性分析评估确定性显著性,本研究引入了对稀疏(部分)贝叶斯网络的训练过程。通过将确定性参数与贝叶斯参数相结合,充分利用两种表示的优点,实现了高效的特定任务性能和最小化的预测不确定性。在多标签ChestMNIST分类和ISIC、LIDC-IDRI分割任务上表现出了有竞争力的性能和预测不确定性估计,相比完全贝叶斯化和集合方法,能够显著减少95%以上贝叶斯参数,从而大大降低计算开销。
Jun, 2024
本研究解决了生存分析中性能与可解释性之间的权衡问题,提出了CoxKAN,一种高效且可解释的Cox比例风险Kolmogorov-Arnold网络。研究结果表明,CoxKAN在多个数据集上的表现优于传统模型,同时能够自动选择特征并识别变量间的复杂交互,帮助更好地理解生物标志物对患者风险的影响。
Sep, 2024
本研究解决了在数据稀缺环境下,多层感知器(MLPs)和 Kolmogorov-Arnold 网络(KANs)之间的有效性差异问题。通过引入具有参数化激活函数的 MLP 设计方法,研究表明在样本量仅为一百左右的情况下,个性化激活函数的 MLP 在预测准确性上显著优于 KAN,提供了关于激活函数选择对神经网络影响的新见解。
Sep, 2024