本研究调查了使用概率神经网络(PNN)来建模巧合不确定性的方法,PNN 生成目标变量的概率分布,能够在回归场景中确定预测均值和区间,实验证实了 PNN 在建模巧合不确定性方面的有效性,特别是在真实科学机器学习环境中,PNN 产生接近 0.97 的高精度输出均值估计和 0.80 的预测区间的高相关系数,为利用神经网络的复杂表示能力来揭示科学问题中的复杂输入输出关系的持续探索做出了贡献。
Feb, 2024
本文探讨使用概率编程方法来研究分类器的预测水平集问题,通过在合成数据集和 MNIST 数据集上实验,展示该技术有助于理解分类行为。
Jan, 2020
使用实值非体积保持变换的无监督学习算法能够解决机器学习中的概率模型,模型具有可解的学习、采样、推理和评估能力,并且拥有一个可解释的潜在空间,我们在四个数据集上通过采样、对数似然度量和潜在变量操作展示了其建模自然图像的能力。
May, 2016
本文提出了一种新的概率神经网络模型 IPNN,该模型能够将神经网络和概率理论结合起来,并且在分类任务中具有无监督聚类的能力。该模型可以使用很小的神经网络对数十亿个类别进行分类。
Mar, 2023
本文研究了使用 Venn-Abers 预测器进行故障检测的效果,发现其可以很好地解决机器学习中数据不平衡的问题,并且能够产生良好的校准概率区间,改善模型的可信度。同时,将 Venn-Abers 与决策树结合,可以更好地理解模型关系,进而得到更加精确的预测结果。
Jun, 2023
本研究提出了一种替代贝叶斯 NN 的简单实现方法,其能够产生高质量的预测不确定性估计,并在分类和回归数据集上进行了实验以证明这一点。此外,研究还评估了在已知和未知数据分布下的预测不确定性,并证明该方法能够在超出分布的样本上表现出更高的不确定性,同时在 ImageNet 上证明了该方法的可扩展性。
Dec, 2016
通过引入潜在变量建模和采用基于证据下界(ELBO)的训练目标,我们提出了一种名为变分分类(VC)的传统神经网络方法的新扩展,它通过对抗性方法进行优化。我们的 VC 模型在设计选择方面具有更大的灵活性,特别是类条件潜在先验的选择。对图像和文本分类数据集的实证评估表明,我们的方法在维持预测精度的同时改善了其他可取的特性,例如校准和对抗性鲁棒性,即使应用于外部域的数据。
May, 2023
该研究提出了一种概率证明框架 PROVEN,用于验证神经网络在输入加噪时的鲁棒性,可证明分类器的 top-1 预测在受限的 Lp 范数扰动下不会发生改变,证书是基于现有的神经网络鲁棒性验证框架,该方法在 MNIST 和 CIFAR 神经网络模型的实验中取得了 75% 的提升。
Dec, 2018
本文提出了一种基于自然语言处理技术的图分类方法,使用结构信息嵌入,采用类似于 NLP 的证明技术,对几个标准分子数据集进行了实验,取得了最先进的分类结果,并对节点预测是否有助于更好地分类图进行了定性分析。
Feb, 2019
本文介绍了一个被称为 SimVP 的简单的视频预测模型,使用 CNN 构建,仅仅通过 MSE 损失进行端到端的训练,取得了在五个基准数据集上的最新成果,同时通过扩展实验,证明 SimVP 在现实世界数据集上具有强大的泛化能力和可扩展性,大大降低了训练成本。
Jun, 2022