- 通过对潜在表示进行高维度测试的自适应不确定性估计
利用数据自适应高维假设检验的新框架对不确定性进行估计,通过对特征表示的统计特性进行测试,以提升对潜在表示中的不确定性的判别能力并实现更准确的不确定性估计,同时引入一种基于家族式测试的过程来确定 ODD 检测的最佳阈值,以最小化假阳性的发现率 - 通过附件捕捉更多的不确定性来进行贝叶斯推理
基于贝叶斯神经网络的附加结构(ABNN)用于从新颖数据中提取不确定性,通过集成来自内部和外部数据的不确定性来改善性能,并通过理论分析和实验证实其优越性。
- 贝叶斯神经网络后验中的排列对称性:变分视角
通过对近似贝叶斯神经网络(BNNs)的分析,扩展了边界损失和解决方案插值的形式,并提出了一种匹配算法来寻找线性连接的解决方案。实验证明,在各种体系结构和数据集上,线性连接的解决方案几乎没有边界损失。
- 高维后验隐式变分推理
我们提出了使用神经采样器来近似复杂多模态和相关后验分布的隐式分布的方法,并介绍了一种新的采样器架构,允许以百万个潜变量为基础的隐式分布,通过可微的数值逼近解决计算问题。我们的实证分析表明,我们的方法能够恢复大型贝叶斯神经网络中层间的相关性, - 基于集成的贝叶斯神经网络和传统机器学习算法的混合优化
通过将贝叶斯神经网络与传统机器学习算法(如随机森林、梯度提升、支持向量机)协同集成的一种新方法,强调了特征集成在优化中的重要性,包括优化的二阶条件,如哈西矩阵的定态性和正定性。与此相反,超参数调整对于改善预期改进(EI (x))的影响有所削 - 基于高斯过程或贝叶斯神经网络的有约束轨迹探索的主动学习性能比较
自主机器人和主动学习算法在空间任务中的应用及性能比较研究。
- 贝叶斯神经网络初识:评述与争议
神经网络在各个问题领域取得了显著的表现,但其普适性受到其内在限制的阻碍,如预测上的过度自信、解释能力的欠缺和对对抗攻击的易受攻击性等。为了解决这些挑战,贝叶斯神经网络(BNNs)已成为传统神经网络的引人注目的扩展,在预测能力中整合了不确定性 - 概率性权重修正:用于量化的神经网络权重不确定性的大规模训练
该论文提出了一种基于贝叶斯神经网络(BNNs)和变分松弛的概率性框架,用于确定可以将哪些权重转移到哪个聚类中心以及在多大程度上,以提高权重共享量化方法的压缩性能和准确性。
- 贝叶斯神经网络中的摊还推断
在本文中,我们提出了一种更数据高效的概率元学习方法,通过对贝叶斯神经网络的推理进行逐数据点摊销,引入了摊销伪观测变分推理贝叶斯神经网络(APOVI-BNN)。我们展示了在我们的摊销方案下获得的近似后验与传统变分推理获得的近似后验在质量上是相 - 结构稀疏贝叶斯神经网络中稀疏与缩减先验的综合研究
基于市场下行底部的趋势,通过计算国内主要增量资金、流动性、情绪、技术指标等多因素,进行权重计算,提出了基于隐藏半马尔科夫模型的股票量化分析方法。
- 当蒙特卡罗 Dropout 遇到多出口:在 FPGA 上优化贝叶斯神经网络
本研究提出了一种新颖的多出口 Monte-Carlo Dropout(MCD)Bayesian 神经网络,实现了具有低算法复杂度的良好校准预测。此外,我们还提出了一个转换框架,可为多出口 MCD BayesNN 生成基于 FPGA 的加速器 - 使用 MCMC 和 VI 训练的贝叶斯神经网络在高光谱图像上的目标检测
在高概率内提供准确的预测和估计,并比较了使用 Markov Chain Monte Carlo 和 Variational Inference 训练的贝叶斯神经网络在高光谱成像中的目标检测中的性能表现。
- 单源领域泛化的敌对贝叶斯增强
提出 Adversarial Bayesian Augmentation(ABA)算法,该算法利用对抗学习和贝叶斯神经网络生成多样化的数据增强,以解决领域泛化中缺乏多样训练数据、目标数据不可访问和领域偏移等问题,通过在多种领域上生成合成图像 - 基于贝叶斯神经网络的对抗鲁棒性认证
通过权重区间采样的计算框架,对贝叶斯神经网络(BNNs)的鲁棒性进行了证明,包括在分类及回归等多种任务中的使用。
- ICMLBNN-DP: 通过动态规划对贝叶斯神经网络进行鲁棒性认证
本文介绍了 BNN-DP,它是一种用于分析贝叶斯神经网络的对抗鲁棒性的高效算法框架。该算法使用动态规划算法来限定网络的预测范围,同时具备一般性和高效性。
- Spatial-SpinDrop: 基于空间 dropout 的二进制贝叶斯神经网络及自旋电子学实现
本篇论文介绍了一种采用 MC-SpatialDropout 技术的空间 dropout 的 BayNNs 方法,该方法使用尺度剪枝和自旋体制,以降低硬件成本和能耗,并且在有效降低能源消耗的前提下保持了较高的准确性。
- 朴素贝叶斯深度学习的崩溃推理
提出一种新的 Bayesian 深度学习方案,使用 collapsed samples 进行贝叶斯模型平均,从而平衡神经网络的可扩展性和准确性,并利用现有的体积计算求解器解决选取部分权重采样,从而达到提高样本效率的目的,并在各种回归和分类任 - 有限高斯神经元:通过使神经网络表达 “不知道” 来防御对抗性攻击
该研究介绍了有限高斯神经元 (Finite Gaussian Neuron) 的人工神经网络,用于对抗攻击,同时维持对真实数据的行为表现,相比于传统神经网络在随机化和快速梯度符号方法下预测更不自信,但在 MNIST 图片上 的准确度和自信度 - 贝叶斯神经网络的黎曼拉普拉斯近似
通过使用 Riemann 度量和自动微分等方法,我们提出了一种简单的参数近似后验分布,用于适应真实后验分布的形状,并解决了传统方法的局限性。
- 最优输运模型的分布式鲁棒性
本文提出了基于最优输运的分布鲁棒性模型训练框架,在模型空间内提高深度学习模型的鲁棒性,并将该框架应用于单个模型、集合模型、以及贝叶斯神经网络的训练中,通过广泛实验验证其有效性。