Dec, 2015

潜变量建模与多样性诱导互角正则化

PDF
TL;DR通过提出一种互相角度正则化的方法，可以训练出具有多样性，低冗余，更好的解释性的潜在变量模型，并有效地捕捉长尾模式并减少模型复杂度。
latent variable modelsmutual angular regularizerlong-tail patternsmodel complexityinterpretability
发现论文，激发创造
  • 神经网络在多样性导向的互角度正则化下的泛化误差界

    本文研究了多样性诱导正则化方法以提高潜变量模型的理解性、复杂度、泛化性能等，并提出了一种理论分析方法，其中采用神经网络模型实现了理论研究，发现增强神经网络中隐藏单元的多样性可以提高模型的近似性能。

    Nov, 2015

  • 多样性增强贝叶斯潜变量模型学习

    本文提出两种不同的方法，一种是引入互角度先验，另一种是直接对后验分布进行多样性约束，以 “多样化” 潜变量模型，包括贝叶斯非参数模型。实验结果证明方法的有效性和高效性。

    Nov, 2017

  • 文本生成的隐式深度潜变量模型

    本文提出了一种基于采样的变分分布表示方法，用于自然语言生成中 deep latent variable models，并通过最大化互信息的正则化来解决 posterior collapse 问题，进一步发展了 VAE，并在多个文本生成场景中证明了其有效性和通用性。

    Aug, 2019

  • LDMNet: 低维流形正则化神经网络

    通过使用 Low-Dimensional-Manifold-regularized neural Network 来加强神经网络的特征提取，有效提高了在小样本情况下的泛化能力并且可以应用于同种物体的跨光谱识别。

    Nov, 2017

  • 神经潜变量基准 '21：评估神经群体活动的潜变量模型

    该研究介绍了一种用于神经元群体活动的潜在变量模型基准套件，旨在协调这些建模工作，并通过 EvalAI 发布。该套件包括四个数据集，涵盖认知、感觉和运动区域的神经单元活动。

    Sep, 2021

  • MAE：变分自编码器的相互后验分歧正则化

    本文介绍了一种新的正则化方法 mutual posterior-divergence regularization，用于控制潜空间的几何结构，从而实现有意义的表征学习，并在三个图像基准数据集上取得了良好的表现。

    Jan, 2019

  • Manifold GPLVMs 用于发现神经数据中的非欧几里德潜在结构

    提出了一种新的概率潜变量模型 (mGPLVM) 来同时确定潜变量状态和神经元对其表示的贡献，以研究神经元编码头部方向及其它相关行为表现内部潜变量构建的问题。

    Jun, 2020

  • 深度对比潜变量模型的动量匹配

    本文提出一种基于最大平均差异的对比 VAE 模型，用于隔离数据集中与任务有关的变异，提高对比分析性能。经过对三个具有挑战性的对比分析任务的定量与定性分析，本方法相较于之前的最新技术有更好的表现。

    Feb, 2022

  • 多模翻译的隐变量模型

    本研究提出一种多模态神经机器翻译模型，通过潜在变量模型来建模视觉和文本特征之间的交互，预测图像特征和提高翻译性能，可以在训练阶段利用视觉和文本输入，而在测试阶段不需要图像输入，通过预测图像特征等优化，同时利用合成数据等附加训练方式进一步提高翻译性能。

    Nov, 2018

  • 关于在潜空间中定义邻近分布的好处

    本文提出了一种在生成模型的潜在空间中定义 vicinal 分布的方法，称为 VarMixup，并在 CIFAR-10、CIFAR-100 和 Tiny-ImageNet 数据集上进行了实证研究，结果表明使用 VAE 学习的潜在流形执行 mixup 训练的模型对于各种输入扰动 / 干扰更具鲁棒性，校准性更好，并呈现出更多局部线性的损失函数。

    Mar, 2020