Dec, 2016

深度学习的概率框架

PDF
TL;DRDeveloped a probabilistic framework for deep learning based on the Deep Rendering Mixture Model (DRMM), which captures variations in data due to latent task nuisance variables and provides a principled route to the improvement of deep convolutional neural networks (DCNs). The DRMM is a powerful alternative to DCN back-propagation, leading to faster training and achieving superior accuracy in supervised digit classification along with state-of-the-art results on the MNIST benchmark and competitive results on the CIFAR10 benchmark in semi-supervised and unsupervised learning tasks.
deep rendering mixture modelprobabilistic frameworkdcnssupervised learningsemi-supervised learning
发现论文，激发创造
  • ClusterDDPM：一种带有去噪扩散概率模型的 EM 聚类框架

    利用新型的去噪扩散概率模型（DDPMs）引入创新的期望最大化（EM）框架进行聚类，通过优化学习聚类友好的潜在表示，有效地提高了聚类、无监督条件生成和潜在表示学习的性能。

    Dec, 2023

  • 深度学习的概率论理论

    通过发展概率性深度学习框架，研究人员解释了为什么深度学习算法能够胜任复杂感知推断任务，并发现了这些算法的成功和不足之处，提供了其改进的原则路径。

    Apr, 2015

  • （半监督）最大化边缘深度生成模型用于学习

    本文介绍了一种新的深度生成模型 (DGMs) - max-margin deep generative models (mmDGMs) 和 class-conditional variant (mmDCGMs)，它们同时保留了生成性和判别性，通过最大间隔学习来提高模型的预测性能，并且在半监督学习中利用了最大间隔分类器来代替全局后验推断从而提高学习效率。在各种数据集上的实验结果表明，这种方法可以明显地提高模型的预测性能。

    Nov, 2016

  • 去噪扩散恢复模型

    本文提出了一种基于先前针对噪声扩散的生成模型的方法 DDPM，用于解决各种图像恢复问题，包括超分辨率，去模糊，填补和上色，相比于现有的非监督方法，DDRM 在重构质量，感知质量和运行时均表现出更好的性能。

    Jan, 2022

  • 最大间隔深度生成模型

    本论文提出了最大间隔深度生成模型（mmDGMs），它利用最大间隔学习原理来提高深度生成模型的辨别力，同时保留了生成能力。实验结果表明，最大间隔学习可以显著提高深度生成模型的预测性能，同时保留生成能力。同时，通过使用深度卷积神经网络作为识别和生成模型，mmDGM 在 MNIST 和 SVHN 数据集上的表现与最先进的完全辨别网络相当竞争力。

    Apr, 2015

  • DDDM：脑启发式框架用于稳健分类

    通过结合 Dropout 和 Drift-Diffusion Model，提出了 DDDM 模型，使深度神经网络更具鲁棒性，从而在图像、语音和文本分类任务中表现出较高的性能和抗对抗攻击的能力。

    May, 2022

  • 将领域知识融入深度神经网络中用于离散选择模型

    本文提出了一种框架，通过约束条件将领域知识和先验信念与机器学习相结合，以支持可解释的基于数据驱动的离散选择模型的开发，并通过案例研究展示了该框架的潜力。

    May, 2023

  • 朝向深度机器推理：基于原型的深度神经网络与决策树推理

    提出使用基于决策树的推理和合成数据来平衡分类，具有可完整解释且不需要使用 GPU 的 DMR 原型方法和网络架构，可以有效解决多类别问题中类别不平衡的问题，并在多个基准测试问题的测试中获得最佳表现和两个世界纪录。

    Feb, 2020

  • 无监督集成学习的深度学习方法

    本文介绍了深度学习方法如何应用于众包和无监督集成学习，证明了在 Dawid 和 Skene 模型下，假定所有分类器是条件独立的，等价于具有单个隐藏节点的受限玻尔兹曼机 (RBM)，提出了采用基于 RBM 的深度神经网络 (DNN) 的方法来解决分类器强烈违反条件独立性假设的问题，实验结果表明，我们提出的 DNN 方法在各种模拟和实际数据集上表现优异，尤其是当数据违反条件独立性假设时。

    Feb, 2016

  • 使用深度密度模型进行高维概率估计

    本文提出了一种新的密度估计方法 —— 深度密度模型（DDM），能够快速计算测试数据的归一化密度、生成样本并描述数据的联合熵。

    Feb, 2013