May, 2024

消息传递蒙特卡罗：通过图神经网络生成低差异点集

PDF
TL;DR利用几何深度学习和基于图神经网络的工具，生成一种名为 Message-Passing Monte Carlo (MPMC) points 的新型低差异点集，其在科学和工程等领域具有重要的应用价值，并通过实验证明该方法在性能上超过了以往的方法，接近甚至达到了最优差异度。
discrepancylow-discrepancypoint setsmessage-passing monte carlo (mpmc) pointsgraph neural networks
发现论文，激发创造
  • 条件生成的矩匹配网络

    本研究提出了条件生成矩匹配网络 (CGMMN)，基于条件最大均值差距 (CMMD) 标准，学习给定一些输入变量的条件分布，学习采用随机梯度下降，梯度通过反向传播计算。我们在广泛的任务上评估了 CGMMN，包括预测建模、上下文生成和贝叶斯暗知识，这些任务通过学习相对较小的 CGMMN 学生网络从贝叶斯模型中提炼知识。结果表明，在所有任务中都具有竞争性的性能。

    Jun, 2016

  • 基于记忆的消息传递：将传播信息与判别分离

    提出了基于记忆的消息传递方法（MMP），以解决现有消息传递方法在不光滑和噪声建模上的缺陷，通过记忆分离节点信息为鉴别和传播两部分，并发展控制机制和解耦合法则以提高所提出方法的效果和鲁棒性。

    Feb, 2022

  • 通过最大均值差异优化训练生成神经网络

    通过最大均值差异的无偏估计作为双样本检验统计量，将深度神经网络视为生成器网络，将学习过程看做最小化二元检验统计量，通过实证比较及理论边界分析，探究了生成对抗网络框架及无参数核双样本检验框架的异同。

    May, 2015

  • 具有最大平均差异正则化的贝叶斯神经网络

    本文提出了一种基于最大均值差异的理解下界（ELBO）的变体，该下界替代了 KL 散度，取得了比现有技术更高的多个基准测试结果，包括多个图像分类任务。 此外，本文还提出了一种新的估算给定预测的不确定性的公式，并表明该公式对抗攻击和输入噪声具有更强的健壮性。

    Mar, 2020

  • 生成时刻匹配网络

    本文研究使用多层感知器、最大均值差异等统计假设检验技术来训练生成对抗网络，并与自编码器网络相结合，以产生比基准方法更优秀的 MNIST 和 Toronto Face Database 的生成模型。

    Feb, 2015

  • 领域不变表示学习的中心矩差（CMD）

    本研究提出了一种新的正则化方法，通过匹配概率分布的高阶中心矩的差异来学习域不变的特征表示，实现域自适应。结果表明，这种方法在两个不同的基准数据集上均取得了最新的性能，并显示出稳定性。

    Feb, 2017

  • 非均匀度量下的低差异点集

    证明存在对于任意非均匀度量的低偏差点集，应用离散化定理得到每一维度上的指数级别的复杂度，讨论大偏差时 Vapnik-Cervonenkis 类的反演，最终基于 Koksma-Hlawka 不等式，证明出快速收敛率的数值积分规则存在于某些具有不连续性质的函数上。

    Aug, 2013

  • 利用消息传递生成对抗网络生成粒子云

    本文介绍了高能物理领域的 Jets 和它们在 LHC 对撞机中的存在，针对该领域存在的数据表示问题，提出了一种新的基于 Particle cloud 的数据集 JetNet，并开发出名为 MPGAN 的新型生成模型，实验结果表明 MPGAN 在各项指标上均表现优异，未来有望被用于高能物理领域。同时，为了促进研究和提高可访问性和可重复性，开源了 JetNet Python Package，提供了接口，实现了评估和损失度量等工具。

    Jun, 2021

  • 基于最大均值差异（MMD）统计量的集中不等式及其在生成模型中的应用

    我们提出了一种均匀集中不等式，用于一类基于最大均值差异（MMD）的估计器的理论分析，特别是在生成模型中的应用。我们将该结果应用于最小 MMD 估计器和 MMD GAN 的泛化误差界的推导

    May, 2024

  • 最大均值差异下的生成模型统计推断

    本文介绍了一种基于最小距离估计的统计模型，即对于可能性不易计算的生成模型，通过指定核函数，作为一个度量距离的最大均值差异（MMD）可以用来进行最小距离估计，同时结合自然梯度下降算法的应用使这种估计更加高效和鲁棒。

    Jun, 2019