ICMLJun, 2018

二进制随机变量的学习科尔莫戈洛夫模型

PDF
TL;DR该研究提出了一个基于 Kolmogorov 模型的学习框架，通过从数据中提取有价值的关系，推导了一些特定随机变量的结果之间的联系，并提出了一个算法来计算该模型，并展示其一阶最优性，尽管学习问题具有组合性质。该算法可以应用于推荐系统和其他场景，是解释性机器学习的重要一步。
kolmogorov modelrandom variablesalgorithmoptimalityinterpretable machine learning
发现论文，激发创造
  • 有限字母随机向量的张量、学习和 Kolmogorov 扩展

    本文介绍了一种使用多线性代数方法实现关键点之间联合概率质量函数估计的方法，并给出了用于实现复杂度有限的高维概率的完整特征的证明和几个相关的可识别性结果。

    Dec, 2017

  • 分层模型作为分层模型的边缘

    研究了利用较小交互的分层模型边缘表示其他分层模型的方法，并在二元变量和成对交互模型的边缘中着重研究了相互条件独立的隐藏变量。结果表明，每个隐藏变量可以自由地模拟可见变量之间的多个相互作用，可以将在比以前更少数量的隐藏变量的限制玻尔兹曼机中达到接近最佳结果的分布近似方法与使用前馈神经网络的软加计算单元的多项式的线性子空间的表示进行等价处理。

    Aug, 2015

  • 马尔科夫随机场的信息论特性及其算法应用

    通过建立适当的零和游戏，采用概念上的方法来证明相互信息的下限，进而推广到具有高阶交互作用的任意马尔科夫随机场，从而获得在 n 个节点上学习具有 r 阶相互作用的有界次数图上的马尔科夫随机场的算法，样本复杂度为 log (n)，时间复杂度为 n^r。

    May, 2017

  • 学习细节：基于贝叶斯结构学习的实例级别

    提出了一种新的概率图模型结构学习方法，通过在随机变量实例化级别上操作来学习，推广和解释在这些难以捉摸的领域中，从而解决机器学习方法在精度不尽如人意的情况下的问题，并且通过 Bayesian Knowledge Bases（BKBs）来利用 Information Thermodynamics 和 MDL 原理解决了结构化选择问题并提高了学习效果，最终运用在乳腺癌基因突变数据学习基因调节网络。

    Mar, 2023

  • 高效的单边科尔莫哥洛夫近似

    我们提出了一种高效算法，可以针对一个离散随机变量 X 和一个数字 m，计算出一个随机变量，其支持的大小最多为 m，与 X 的 Kolmogorov 距离是最小的，同时适用于单向 Kolmogorov 近似。我们提供了算法的一些变体，分析了它们的正确性和计算复杂度，并提供了详细的实证评估，展示了它们的实际效果。本文的主要应用是估计串并行调度中未填期限的概率。由于这些概率的精确计算是 NP 难的，我们建议使用本文中描述的算法来获得近似值。

    Jul, 2022

  • 混合变量受限玻尔兹曼机

    本文介绍了一种用于混合变量的 Restricted Boltzmann Machines 模型，可以同时建模多种类型和多样性的变量，并使用潜在二进制变量对变量之间的依赖性进行建模，支持在许多常见任务中使用，包括预处理、分类、回归和数据补全，同时在一个大规模数据集上进行了实验验证。

    Aug, 2014

  • 利用高斯 - 二元受限玻尔兹曼机模拟自然图像统计

    本文从密度模型的角度出发，对高斯 - 二进制受限玻尔兹曼机（GRBM）进行理论分析，展示了 GRBM 的一些性能和限制，讨论了训练算法的几个关键点，并与其他改进的模型进行了比较。

    Jan, 2014

  • 随机场的特征诱导

    本文介绍了一种从训练样本中构建随机场的技术，并以自然语言处理中的自动词分类为例进行了演示。该方法涉及随机场、Kullback-Leibler 散度、迭代缩放、统计学习等关键词。

    Jun, 1995

  • 受限玻尔兹曼机的几何形态

    本文从代数统计学和热带几何的角度研究了基于完全二分图的 restricted Boltzmann machine 模型及其可识别性和维数，得出了该模型的计算和解码方法和与线性门限函数的联系。

    Aug, 2009

  • 学习潜在树图模型

    本文提出了两种一致且计算效率高的算法，用于学习最小化的潜在树图模型，并与其他现有方法进行了比较，所提出的算法在隐藏马尔可夫模型和星形图等各种潜在树图模型上进行了详尽的数值实验。

    Sep, 2010