Dec, 2023

通过混合 Cramer-Wold 距离实现均衡的边际和联合分布学习

PDF
TL;DR利用混合 Cramer-Wold 距离提出了 CWDAE（Cramer-Wold Distributional AutoEncoder）生成模型，在真实表格数据集上表现出了出色的合成数据生成性能，并且具备灵活调整数据隐私级别的特性。
generative modelcramer-wold distancemarginal distributional patternssynthetic data generationcwdae
发现论文，激发创造
  • 通过 Cramer-Wold 距离实现联合分布学习

    通过引入 Cramer-Wold 距离正则化和两步骤学习方法，本研究在处理高维数据集或观测变量间的复杂相关结构时，改进了变分自编码器 (Variational Autoencoder) 解码模型中存在的条件独立性假设限制，以实现高维数据的联合分布学习；实验结果表明所提出的方法在合成数据生成方面具有较高的性能。

    Oct, 2023

  • 用梯度下降学习高斯混合模型的 Cramer 型距离

    本文提出了一种适用于一般多变量 GMM 学习的距离函数 Sliced Cramé 2-distance, 其解析形式表达简单，且可以与神经网络顺利结合，将其应用于 Deep Q Networks 代表的一些算法中，获得了很好的表现。

    Jul, 2023

  • 切片瓦瑟斯坦生成模型

    该论文介绍了一种新的方法，使用少量参数化正交投影来近似分解高维分布的一维边际分布，以便于在生成式框架中实现深度学习。研究表明，该方法在标准图像综合基准和高分辨率图像和视频生成方面表现出优越性和最先进性。

    Apr, 2019

  • 切片瓦瑟斯坦生成模型

    本研究介绍了基于深度学习的一种小批量近似方法，用于在自动编码器和生成式对抗网络等现代生成模型中实现切片 Wasserstein 距离，以便在无监督情况下实现高分辨率图像和视频的生成，表现为当代最佳水平。

    Jun, 2017

  • Cramer 距离作为解决偏置 Wasserstein 梯度的方案

    本文研究了概率分歧度量的性质，比较了 Wasserstein 度量与 Kullback-Leibler 分歧的差异，提出 Cramér 距离作为一种替代度量并设计了 Cramér 生成对抗网络，表现显著优于 Wasserstein 生成对抗网络。

    May, 2017

  • 应用于对抗学习和域自适应的混合分布归一化 Wasserstein 距离

    本文研究通过引入归一化 Wasserstein 度量来解决不平衡混合比例问题，并将其应用于生成模型、域自适应和聚类等多个领域，表现出显著的性能提升。

    Feb, 2019

  • WGANs 估计 Wasserstein 度量的表现如何？

    本文研究生成对抗网络中用于逼近 Wasserstein 度量的方法，考虑到 $c$-transformation 的使用可以更精确地估计真实的 Wasserstein 度量，但在生成模型方面，$c$-transformation 不是表现最好的方法。

    Oct, 2019

  • 基于几何洞见的隐式生成模型

    该研究探讨了几个度量数据分布与隐式模型分布差异的标准，发现这些度量在概率测度空间中引入了不同的几何特性，特别是当参数生成器具有非凸参数化时，$1$-Wasserstein 距离能够实现惊人的近似全局收敛保证。

    Dec, 2017

  • 使用切片瓦瑟斯坦距离进行生成建模

    本篇论文提出了一种基于随机投影的生成模型，该模型较传统的 GAN 模型更加稳定和精确，采用的 Wasserstein 距离作为度量计算生成样本的真实性，可以得到更准确的生成结果。

    Mar, 2018

  • 解密 MMD GANs

    通过使用最大均值差异（MMD）作为批判家来研究生成对抗网络的训练和性能，我们澄清了最近的工作中提出的 GAN 损失函数中的偏差问题，并讨论了 MMD 批判家的内核选择问题，提出了改进的 GAN 收敛度量，核启动距离，并展示如何在 GAN 训练期间使用它动态调整学习速率。

    Jan, 2018