NIPSOct, 2014

学习混合均值的选择性的在线算法

PDF
TL;DR我们开发了一种生物上可行的学习规则，称为 Triplet BCM，该规则可证明收敛于一般混合模型的类均值。通过引入来自混合物的三元组（triplets）样本，Triplet BCM 实现了一种新颖的信息处理解释。我们提供了这个学习规则的完整证明，并对 BCM 和张量学习之间的关系进行了扩展讨论。
triplet bcmlearning ruletensor decompositionspike-timing-dependent plasticityconvergence
发现论文，激发创造
  • 图像分类的类间学习

    本文介绍了一种新的图像分类学习方法，称之为 Between-Class learning (BC learning)，通过两个不同类别的图像以随机的比例混合生成新的图像，并训练模型输出混合的比例，从而使模型的泛化能力得到提高。同时，提出了基于内部分割和将图像视为波形的两种混合方法，实验表明，在 ImageNet-1K 和 CIFAR-10 两个数据集上，该方法能够实现很好的分类效果。

    Nov, 2017

  • 可验证张量方法用于学习广义线性模型混合

    本文提出了通过张量分解方法学习广义线性模型的混合模型参数的方法，通过对输入进行特征转换以及使用得分函数张量和响应变量的交叉相关计算可以得到正确的参数估计，且其计算和样本复杂度是输入和潜在维度的低阶多项式。

    Dec, 2014

  • 组合优化的学习表示组合

    本研究提出了一种新方法，使用受限玻尔兹曼机（RBMs）来解决组合优化问题，从而有效地绕过在大型 RBMs 中学习的问题，并创建一个能够建模大型复杂多模态空间的系统。研究结果表明，这种方法可以有效地解决布尔可满足性问题和其他组合优化问题，对于相同的样本大小，这种方法可以提供比完全训练模型更准确的结果。

    Sep, 2019

  • 一种基于三元马尔可夫链的概率半监督方法

    本文提出了一种基于变分贝叶斯推理的通用框架，用于在半监督环境中训练参数化的三元马尔可夫链模型，从而实现对顺序贝叶斯分类的多种生成模型的半监督算法。

    Sep, 2023

  • 快速且准确地训练和抽样受限波尔兹曼机

    通过凸优化过程将数据集的主要方向整合到低秩 RBM 中，从而通过静态蒙特卡罗过程实现平衡分布的高效采样，成功训练 RBM 来捕捉之前方法失败的高度结构化数据集中的全部多样性，并提出了一种新的采样方法 - 平行轨迹调整，使得能够比之前的 MCMC 方法更快地采样训练模型的平衡分布并更好地估计对数似然。

    May, 2024

  • 联合训练深度玻尔兹曼机进行分类

    本文介绍了一种新的深度玻尔兹曼机联合训练方法，使用多预测训练策略同时训练 DBM 的所有层，得到的模型可以作为一个最大化广义伪似然的变分近似单一生成模型或近似平均的一类共享参数的循环网络。实验证明此方法的性能优于其他方法在分类精度和处理缺失输入方面。

    Jan, 2013

  • 学习排序模型混合物

    本文提出了第一个多项式时间算法，利用张量分解技术学习两个 Mallows 模型混合的参数，解决了之前没有理论保证且容易卡在局部最优解的问题。

    Oct, 2014

  • 利用贝叶斯学习规则训练二值神经网络

    本文提出了一种基于贝叶斯学习规则的方法来解决训练二进制神经网络的有限制的问题。该算法不仅能够获得最先进的性能，而且还能够估计不确定性以避免灾难性遗忘。

    Feb, 2020

  • 贝叶斯学习规则

    本文说明了许多机器学习算法都是贝叶斯学习规则的特定实例，该规则源于贝叶斯原则，从优化、深度学习和图形模型等领域得出一系列算法。我们的工作不仅统一，泛化和改进了现有算法，而且还帮助我们设计新的算法。

    Jul, 2021

  • 贝叶斯案例模型：一种基于生成的案例推理和原型分类方法

    提出了贝叶斯案例模型（BCM），它是一种 Bayesian case-based reasoning（CBR）和原型分类与聚类的通用框架，使用 BCM 进行人类主体实验，与前继艺术相比，BCM 提供的解释在参与者理解方面统计显著提高。

    Mar, 2015