Mar, 2023

学习细节：基于贝叶斯结构学习的实例级别

PDF
TL;DR提出了一种新的概率图模型结构学习方法，通过在随机变量实例化级别上操作来学习，推广和解释在这些难以捉摸的领域中，从而解决机器学习方法在精度不尽如人意的情况下的问题，并且通过 Bayesian Knowledge Bases（BKBs）来利用 Information Thermodynamics 和 MDL 原理解决了结构化选择问题并提高了学习效果，最终运用在乳腺癌基因突变数据学习基因调节网络。
machine learningprobabilistic graphical modelsminimum description lengthbayesian knowledge basesgene regulatory networks
发现论文，激发创造
  • 使用新数据来优化贝叶斯网络

    使用最小描述长度 (MDL) 原则和贝叶斯网络学习算法的改进版本，我们探讨了对已存在的贝叶斯网络的结构进行精炼的问题，同时我们通过实验证据表明了我们的方法的有效性。

    Feb, 2013

  • 稀疏高斯图模型的贝叶斯结构学习

    本文介绍了一种基于贝叶斯框架的高斯图模型确定方法，它是基于连续时间出生 - 死亡过程的转维度马尔可夫链蒙特卡罗方法。该方法易于实现，在高维图形方面具有计算可行性，验证表明该方法在收敛、图形空间中的混合和计算时间方面优于替代贝叶斯方法，并应用于基因表达研究中。

    Oct, 2012

  • 贝叶斯网络的高效可扩展结构学习：算法与应用

    提出了一种新的结构学习算法 LEAST，通过优化一个连续的约束优化问题，并基于图的谱半径提出了新的可微的约束函数，该算法在精度、效率和可扩展性方面都具有很高的表现，比现有方法快 1 到 2 个数量级，并可扩展到具有数十万个变量的 BN，LEAST 已在阿里巴巴的 20 多个应用程序中得到具体应用，包括近实时的异常检测和根因错误分析系统、大规模基因表达数据分析和可解释的推荐系统等新领域。

    Dec, 2020

  • 通过贝叶斯网络结构学习构建深度神经网络

    本文提出一种基于贝叶斯网络结构学习的方法，用于无监督结构学习深度神经网络，通过生成图，构建其随机反向，然后构建一个判别图，证明生成图的潜变量之间的条件依赖关系在条件 “分类条件下” 丢失在判别图，从而实现通用网络深层（卷积和密集）的学习结构替代，在保持分类准确性的同时显著减少计算成本。

    Jun, 2018

  • 结构学习的结构先验

    本文提出了一种基于贝叶斯网络结构学习的非参数生成模型，采用分层贝叶斯框架来捕捉变量之间的系统性关系，通过 MCMC 算法推导出变量的类别、贝叶斯网络结构和类别间的先验概率，实验证明该方法在小样本数据集中更准确。

    Jun, 2012

  • 监督结构学习

    该研究论文探讨了离散生成模型的结构学习或发现，并侧重于贝叶斯模型选择和训练数据的吸收，特别关注数据摄入的顺序。基于预期自由能，将先验放置在模型选择上是关键之一。通过在 MNIST 数据集上进行图像分类以及在具有动力学的模型发现问题上的测试，展示了该方案的基本思想。在这些示例中，通过自主学习生成模型来恢复（即解开）潜在状态的因素结构及其特征路径或动力学。

    Nov, 2023

  • 学习贝叶斯网络的样本复杂度

    研究使用最小描述长度（MDL）原则基于样本复杂性学习贝叶斯网络，并提出了使用样本复杂性结果加速学习过程的方法，同时表明了以熵距离为误差阈值的 epsilon-close 近似所需样本数量是 O ((1/epsilon)^(4/3) log (1/epsilon) log (1/delta) loglog (1/delta))。

    Feb, 2013

  • 最小描述长度的再探讨

    这篇论文是一篇对最小描述长度（MDL）原理的介绍和概述，讨论了在统计学、机器学习和模式识别等领域中广泛应用的归纳推理理论。MDL 可以被视为惩罚最大似然和贝叶斯方法的一种强大扩展，其中惩罚函数和先验分布被替换成更一般的幸运函数。

    Aug, 2019

  • 大网络中的简洁模块推断

    使用最小描述长度原则来确定未知模块数的大型网络中块结构的检测性，并展示了该方法在实大规模网络中的应用。

    Dec, 2012

  • 贝叶斯结构 EM 算法

    本文介绍了一种使用名为结构 EM 的算法进行贝叶斯模型学习的方法，该算法可以有效地从不完整数据中学习信念网络的结构，并可用于学习各种概率模型，包括贝叶斯网络和其变体。

    Jan, 2013