Jan, 2024

特征函数的生成神经网络

PDF
TL;DR本研究提供了一种模拟算法，能够从黑盒格式的 (多变量) 特征函数中进行模拟。我们构建了一个生成式神经网络，其损失函数利用最大均值差异度指标的特定表示直接融入目标特征函数。这种构建方式具有普遍性，不受维度限制，并且不需要对给定特征函数作任何假设。此外，还导出了关于最大均值差异度指标的逼近质量的有限样本保证。该方法在一个简短的模拟研究中进行了说明。
simulation algorithmgenerative neural networkblack-box formatmaximum-mean-discrepancy metricapproximation quality
发现论文，激发创造
  • 深度隐式生成建模的特征函数方法

    本文提出了一种基于特征函数距离（Characteristic Function Distance）的新颖的隐式生成模型评价方法，可用于无监督图像生成，并在实验中表现出优于 WGAN 和 MMD-GAN 变体的性能。

    Sep, 2019

  • 通过最大均值差异优化训练生成神经网络

    通过最大均值差异的无偏估计作为双样本检验统计量，将深度神经网络视为生成器网络，将学习过程看做最小化二元检验统计量，通过实证比较及理论边界分析，探究了生成对抗网络框架及无参数核双样本检验框架的异同。

    May, 2015

  • 可证明的一步生成的特征学习

    我们提出了一种特征生成器，这是一种新颖的单步生成模型，它将生成对抗网络（GANs）中的采样效率与流模型的稳定性相结合。我们的模型驱动着特征，沿着这些特征，可以通过常微分方程（ODEs）来描述概率密度传输。具体而言，我们通过非参数回归估计速度场，并利用欧拉法解决概率流 ODE，生成一系列离散的特征近似。然后，我们使用深度神经网络来拟合这些特征，确保实现了有效地将先验分布推向目标分布的单步映射。在理论方面，我们分析了速度匹配、欧拉离散化和特征拟合中的误差，建立了特征生成器在 2-Wasserstein 距离中的非渐近收敛速率。据我们所知，这是首次对无模拟单步生成模型进行全面分析。此外，我们的分析还改进了先前关于流模型生成模型的误差分析。我们将我们的方法应用于合成数据集和真实数据集，结果表明，仅通过一次神经网络评估即可实现出色的生成质量。

    May, 2024

  • 通过最大范和特征函数测量统计依赖

    本文提出了一种基于最大范数的统计依赖测量方法，旨在探究两个可能具有不同维度的随机向量间任意统计依赖的检测，该方法具有可微性并易于集成现代机器学习和深度学习管道，实验表明该方法比先前工作在高维和非线性数据中测量统计依赖的应对困难性低，此外，我们提供了该开放源代码存储库的链接。

    Aug, 2022

  • 生成时刻匹配网络

    本文研究使用多层感知器、最大均值差异等统计假设检验技术来训练生成对抗网络，并与自编码器网络相结合，以产生比基准方法更优秀的 MNIST 和 Toronto Face Database 的生成模型。

    Feb, 2015

  • 条件生成的矩匹配网络

    本研究提出了条件生成矩匹配网络 (CGMMN)，基于条件最大均值差距 (CMMD) 标准，学习给定一些输入变量的条件分布，学习采用随机梯度下降，梯度通过反向传播计算。我们在广泛的任务上评估了 CGMMN，包括预测建模、上下文生成和贝叶斯暗知识，这些任务通过学习相对较小的 CGMMN 学生网络从贝叶斯模型中提炼知识。结果表明，在所有任务中都具有竞争性的性能。

    Jun, 2016

  • 使用生成式神经网络学习功能因果模型

    本研究介绍了一种名为 Causal Generative Neural Networks (CGNN) 的新方法，它利用神经网络学习观测变量联合分布的生成模型，具有线性复杂度且在三个任务中表现良好，包括因果推断、识别 v-structures 和有条件独立性，以及多变量因果建模。

    Sep, 2017

  • 通过累积分布函数进行神经似然度计算

    利用神经网络作为单调函数的通用逼近器，利用参数化的条件累积分布函数建立黑盒子估计器，并在其它构造中比较其性能。

    Nov, 2018

  • PCF-GAN: 通过路径空间上的测度特征函数生成序列数据

    本文提出了一种名为 PCF-GAN 的新型生成对抗网络，将路径特征函数（PCF）作为时间序列分布的原则表示，并将其并入鉴别器以增强其生成性能，同时通过序列嵌入将自编码器结构集成到模型中，实现了复杂时间序列数据的生成和重构。实验证明，PCF-GAN 在生成和重构质量上始终优于现有技术。

    May, 2023

  • 生成对抗网络评估指标的实证研究

    本文研究了生成对抗网络（GAN）的评估方法，发现基于核最大均值差（MMD）和最近邻（1-NN）等指标，可以较好地满足评估需要，同时具备区分真实样本与生成样本的性质，并探究了几种著名 GAN 模型的特性。

    Jun, 2018