- ECCVBayesCap: 冻结神经网络中的贝叶斯身份盖帽,用于校准不确定性
BayesCap 是一种内存效率高、可应用于各种架构和任务、能够提供预测的校准不确定性估计的方法,它为预训练的非贝叶斯计算机视觉模型提供了增强,同时不会降低模型性能或需要昂贵的重新训练模型,可以应用于图像处理、医疗图像翻译和自动驾驶等关键场 - CVPR重新思考基于贝叶斯深度学习的半监督体积医学图像分割方法
本文提出一种新的生成贝叶斯深度学习(GBDL)体系结构,可用于半监督医学图像分割任务,结构设计完全基于贝叶斯理论,同时融合了生成模型和生成贝叶斯深度学习的特点,可以利用标记和未标记的数据对训练进行优化,实验证明,该方法对于三个公共的医学数据 - ICML将线性拉普拉斯模型证据应用于现代深度学习
探究 Bayesian 深度学习中用于估计模型不确定性的线性化拉普拉斯方法,并评估其在模型选择方面的假设,并提出了针对现代深度学习更好的适应性建议。
- 在线贝叶斯推断、主动学习和主动采样中的边际和联合交叉熵和预测
本文讨论了贝叶斯深度学习中联合预测的重要性以及实际应用,提出了使用主动学习和主动采样进行评估的新挑战性设置,并提出了需改进的实现联合预测的问题。
- 图形的贝叶斯深度学习
本文讨论了适应性结构数据处理的问题,提出了一种基于贝叶斯深度学习框架的图形学习方法,该方法可用于处理具有不同连续边缘特征的图形,生成无监督的嵌入向量,并展示出良好的性能。该文的最终目标是提供深度学习领域的贝叶斯透视。
- 混合密度深度网络用于众包天气数据的异常值校正内插
通过引入 Bayesian 深度学习的高斯 - 均匀混合密度网络,实现对环境变量在时空域上的建模和异常值检测,为处理来自 ' 物联网 ' 观测点数据的环境建模提供了途径。
- 贝叶斯深度学习中的先验知识综述
该综述强调了先验选择对贝叶斯深度学习的重要性,并概述了各种先验方法及利用数据进行先验学习方法,以期激励实践者们更加谨慎地思考其模型的先验规范。
- 基于不确定性引导的 OCT 图像视网膜层半监督分割
本文提出了一种利用半监督学习方法和贝叶斯深度学习进行医学图像分割的方法,改进了医学图像分割任务中,由于标记数据缺乏导致的训练深度学习方法所存在的问题,同时在视网膜层分割任务中表现出良好的性能。
- 贝叶斯深度学习只需要一个好的函数先验
本文为解决 Bayesian 深度学习中的先验分布选择困难性问题,提出了一种基于 Gaussian processes 的新颖的功能先验分布匹配框架,该框架可通过 Markov chain Monte Carlo 方法进行可扩展的先验分布采 - 来自贝叶斯神经网络的有效且可迁移的对抗样本
使用贝叶斯深度学习技术,以神经网络权重的后验分布进行抽样建立一个 surrogate,可以进一步提高黑盒攻击的可转移性,本文探究了提高攻击可转移性的训练方法, 将我们方法的表现与几种已有方法进行了比较,能够在 ImageNet 上获得 94 - COLING半监督文本注释的贝叶斯方法
通过贝叶斯深度学习模型和贝叶斯集成方法来指导注释过程,可以提高 BERT 模型的注释和预测性能。
- 深度学习中的固定激活函数用于不确定性校准
介绍了一种新的基于 Matern 家族核函数的非线性神经网络激活函数,具有一定的局部平稳性和多样的可微性,表现出良好的表现和不确定性校准能力,并在分类和回归基准测试和雷达发射机分类任务中得到了证明。
- ICML卷积神经网络的结构权重先验
该论文探讨了在深度神经网络中为权重添加结构的好处,其中使用了随机 Gabor 过滤器设计第一层卷积神经网络的先验,以及估计每个隐藏特征与每个类之间关系的方式来为最终层权重添加先验。经验证明,这些结构化的权重先验可以为图像数据提供更有意义的功 - 面向少标签文本分类的不确定性自训练
本文提出了一种基于贝叶斯深度学习的半监督学习方法,通过利用大规模未标记数据集,以文本分类为应用场景,仅使用 20-30 个样本能够训练出预训练语言模型的近似精度,相较于基线提高 12% 以上。
- 检测非分布式翻译的变分转换器
使用等效于 Transformer 模型的贝叶斯深度学习方法检测神经机器翻译中的训练数据分布外句子。我们使用长序列离散随机变量的新不确定性衡量法解决了现有方法在长句子上不适用的问题,并在使用 dropout 的 Transformer 模型 - CVPR深度完成的不确定性感知卷积神经网络:由开端到结束的不确定性
本研究提出了一种使用归一化卷积神经网络(NCNNs)学习输入置信度估计的新方法,并提出了 NCNNs 的概率版本以产生具有统计意义的不确定性度量,可用于噪声深度传感器的深度完成任务,并在 KITTI 数据集上表现出在预测准确度、不确定性度量 - AAAI大规模教育问题挖掘:预测、分析和个性化
本文提出了一个用于在规模上挖掘教育问题洞见的框架。使用贝叶斯深度学习的技术,我们提出了两种量化问题质量和难度的新指标,并提出了一种个性化的策略,以适应学生的需求。将该框架应用于一个拥有数万个问题和数百万个答案的在线教育平台的真实数据集,我们 - 具有贝叶斯深度神经网络的分类快速预测不确定性
本文提出了使用 Dirichlet 近似来构建分类神经网络输出的分布,该近似比先构建权重的 Gaussian 分布再进行采样来得更省时,同时有利于计算不确定性和大规模数据集的应用,例如 ImageNet。
- ICML深度神经网络中的贝叶斯后验到底有多好?
本文研究贝叶斯神经网络中后验概率的真实性及精度,通过 MCMC 抽样实验发现使用贝叶斯后验的预测性能显著不如基于 SGD 的点估计方法,并提出了一种 “冷后验” 的新方法,解释其使用背景及理论基础。本工作挑战了贝叶斯深度学习中关于精度估算的 - 贝叶斯深度学习的案例
贝叶斯方法在深度神经网络中应用广泛,因为它通过边缘化取代优化,能够提高模型的校准性和准确性,并利用神经网络结构中的先验偏好来帮助泛化。此外,最近的贝叶斯深度学习实践进展也提高了模型的准确性、校准性和可伸缩性。