通过引入随机局部胜者通吃（LWTA）激活的深层网络，本文解决了元学习问题，该类型的网络单元通过将单元组织成块，其中只有一个单元生成非零输出，从而导致来自每个模型层的稀疏表示。所提出的网络明确设计为提取稀疏随机性质的输入数据表示，我们的方法在少样本图像分类和回归实验中产生了最先进的预测准确性，并在主动学习设置中减少了预测误差，并大幅降低了计算成本。

Aug, 2022

通过将信息论和随机竞争激活结合起来，本文提出一种去除常规深度学习架构中非线性激活的方法，使用局部和随机竞争的线性单元替代，从而实现学习多样化表征，同时在图像分类基准数据集上进行了实验验证，结果表明该方法具有显著的表征学习能力和推断机制。

Jan, 2022

这项研究工作旨在通过多模态视觉 - 文本模型和基于线性单元之间的随机局部竞争的网络层，提出了一种框架，以更容易地发现视觉任务网络中每个神经元的个体功能，并生成描述性文本以解释网络的决策过程。

Oct, 2023

本研究旨在探讨神经网络激活函数中的本地竞争机制，并发现这种自我模块化特性的有益性，证明这种特性能有效提高网络性能，此外还表明该方法在利用神经网络有效地检索大型数据集方面具有广泛应用前景。

Oct, 2014

本文介绍了一种 Bayesian nonparametric framework，用于 federated learning 问题，其通过 neural networks 对每个数据服务器提供的本地权值进行建模，并且提出了一种推理方法，以在单个通信回合或很少的通信回合中合成更多表达性的全局网络。这种方法在两个流行的图像分类数据集的 federated learning 问题上得到了很好的应用效果。

May, 2019

贝叶斯非参数模型为统计模型选择提供了灵活而强大的框架，使模型复杂性能够适应不同数据集的复杂性，尤其在统计学、计算机科学和电气工程等领域解决复杂挑战方面具有重要意义。本调查意在阐明这些非参数模型的基本特性和理论基础，提供贝叶斯非参数模型的全面理解，并介绍它们在多目标跟踪领域解决复杂问题的相关性。通过这一探索，我们揭示了贝叶斯非参数方法的多样性和功效，为不同学科的复杂问题开辟了创新解决方案的道路。

Mar, 2024

贝叶斯方法在深度神经网络中应用广泛，因为它通过边缘化取代优化，能够提高模型的校准性和准确性，并利用神经网络结构中的先验偏好来帮助泛化。此外，最近的贝叶斯深度学习实践进展也提高了模型的准确性、校准性和可伸缩性。

Jan, 2020

本文介绍一种基于子网络推断框架和线性 Laplace 逼近的贝叶斯深度学习方法，用于提高深度神经网络的预测精度和有效性。在子网络中推断出如此表达力强大的后验逼近，该方法得以比全网络的后验逼近和 Ensembles 方法实现更好的效果。

Oct, 2020

本文提出一种基于贝叶斯网络结构学习的方法，用于无监督结构学习深度神经网络，通过生成图，构建其随机反向，然后构建一个判别图，证明生成图的潜变量之间的条件依赖关系在条件 “分类条件下” 丢失在判别图，从而实现通用网络深层（卷积和密集）的学习结构替代，在保持分类准确性的同时显著减少计算成本。

Jun, 2018

通过理论证明和实验证明，我们挑战了长期以来人们对于贝叶斯神经网络变分推断中均场近似的局限性的假设，并表明在深度网络中并非如此。我们的结果表明，在复杂变分先验代价高且难以实现的情况下，使用均场变分推断在更深的模型中是一种实用且理论上可行的替代方法。

Feb, 2020