Apr, 2024

一种矩匹配约束的方法及其在半监督学习中的应用

PDF
TL;DR通过引入基于矩的新型嵌入约束，以及使用具有联合分布的最终层的 Axis-Aligned Gaussian Mixture Model (AAGMM) 层来解决 softmax 网络中的异常值敏感性问题，并在半监督图像分类领域实现与 FlexMatch 准确性匹配的结果。
discriminative deep learninggenerative approachembedding constraintaxis-aligned gaussian mixture modelsemi-supervised image classification
发现论文，激发创造
  • 使用学习的矩方法学习隐式生成模型

    本论文提出了一种 Moment Estimation 的算法来训练规模大的 Implicit Generative Models，即 Method of Learned Moments (MoLM)。通过引入 Moment Network，以及使用渐近理论来确定 Moment Estimation 中需要优化的关键性质，MoLM 可以训练出高质量的神经图像生成模型。

    Jun, 2018

  • 对抗广义矩方法

    本文提供了一种学习深度神经网络表示条件矩限制模型的方法，该方法以模型和对手之间的零和博弈为核心思想，将深度神经网络用于非参数工具变量回归中。

    Mar, 2018

  • 数据重新加权之外的估计：矩核方法

    提出了一种去除了原有约束的方法的方法，称之为核矩法，并将其用于条件矩限制问题上并取得一定的实验结果。

    May, 2023

  • 高斯混合模型的最优估计：去噪矩方法

    利用半定规划抑噪，解决高斯混合模型中方法矩的不一致性等问题，建立在 Wasserstein 距离下新的矩比较定理，提出新的算法，解决方法矩估计常见的问题。

    Jul, 2018

  • 混合模型和隐马尔可夫模型的矩方法

    本文提出了一种有效方法来估计高维的混合模型的参数以及应对 EM 算法的失败问题，该方法基于矩估计法来进行无监督学习从而实现了之前未能达到的混合模型严格的无监督学习结果。

    Mar, 2012

  • 分层矩方法

    论文介绍了基于谱方法模型参数学习的强大工具，并提出了一种分层方法去解决模型错误建模的鲁棒性问题。我们用近似的联合对角化取代以前算法中使用的张量分解步骤，并在主题建模实验中表明，我们的方法在速度和模型质量方面优于以前的张量分解方法。

    Oct, 2018

  • 通过多项式混合法估算混合模型

    本研究提出了基于矩方法的统一框架 Polymom，通过将混合模型的矩表示成参数的多项式的混合形式，利用半定规划来解决广义矩问题的松弛，并将参数提取的想法与计算机代数相结合，从而推导出估计过程，并可以应用凸优化、计算机代数和矩理论的工具来研究统计估计问题。

    Mar, 2016

  • HoMM: 无监督域自适应的高阶矩匹配

    本研究提出了 Higher-order Moment Matching (HoMM) 方法，将其扩展到再生核希尔伯特空间 (RKHS) 中，利用高阶统计量进行领域匹配并利用伪标记目标样本提高转移学习性能，验证结果证明 HoMM 方法明显优于现有的基于矩匹配的方法。

    Dec, 2019

  • HOME: 高阶混合矩基于的嵌入表示学习

    本文提出了基于高阶混合矩嵌入（HOME）策略的自监督表示学习方法，利用高阶统计信息来减少特征变量之间的冗余，实验结果显示，该方法在线性评估方面显著优于当前的二阶基线方法（即 Barlow Twins）。

    Jul, 2022

  • 使用约束嵌入空间映射条件生成多模态数据

    提出一种条件生成模型，将多种数据的低维嵌入映射到公共潜在空间，并提取它们之间的语义关系，可从普通 MNIST 数字中提取颜色和语音输入，并进行独立条件推断。

    Jul, 2017