ICLRSep, 2021

学习的 W 玻色子表征的探索

PDF
TL;DR本文提出基于变分自编码器模型的碰撞物理学数据训练方法，使用地球移动距离的近似值作为输入和输出喷注的重构误差指标。得到的模型学习到了一个数据流形的具体表示，具有语义上有意义和可解释的潜在空间方向。这些方向是按照它们与基础物理生成过程中物理 EMD 尺度的关系进行层次化组织的。随着分辨率超参数的变化，我们可以了解数据集的比例依赖性结构和信息复杂性。本文介绍了两个利用这种比例尺度计算学习表示维数的度量方法。
发现论文，激发创造
  • Poincaré 变分自编码器实现连续的分层表示

    本文利用 Poincaré 球模型的超几何结构作为潜变量空间，研究了 VAE 在这个空间的运用，该方法在嵌套数据结构下表现出色，并展现了超几何结构对于 VAE 的优越性。

    Jan, 2019

  • 用于异常喷注标记的变分自编码器

    本文通过使用低级别喷注构成信息，针对大型强子对撞机的异常喷注标记对变分自编码器（VAEs）进行了详细研究。在无监督的情况下对背景下的 QCD 喷注进行训练，VAE 能够对重建喷注进行重要信息的编码，并学习潜在空间中表现力强的后验分布。我们呈现了不同方法来检测异常情况，并对距离相关性正则化的基于质量去相关的 VAEs 进行了研究。 最终我们提出了异常暴露 VAE（OE-VAE），以构建一个性能优越的去相关异常喷注标记器，实现了异常检测灵敏度和去除异常得分中重力的两个目标。

    Jul, 2020

  • VTAE: 变分转换自编码器与流形学习

    提出了一种变分空间转换自编码器（VTAE），通过在 Riemann 流形上最小化测地线来改善表征学习，并提高计算机视觉任务的预测准确性和适用性，包括图像插值和重构。

    Apr, 2023

  • 具有学习潜在结构的变分自编码器

    本文提出了一种新型的 Variational Autoencoder with Learned Latent Structure（VAELLS）模型，该模型融合了可学习的流形模型，使得先验分布与数据流形匹配，并允许定义潜在空间中的生成变换路径，同时尝试在已知潜在结构的情况下进行验证，并展示了该模型在现实世界数据集上的性能。

    Jun, 2020

  • 关于 Wasserstein 自编码器的潜空间

    研究了 Wasserstein 自动编码器中潜在空间维度的作用，通过对合成和实际数据集的实验，提出了随机编码器应优于确定性编码器的观点，并强调了在基准解缠任务中代表学习的 WAE 的潜力。

    Feb, 2018

  • Gromov-Wasserstein 自编码器

    本文提出了一种新的表征学习方法，Gromov-Wasserstein Autoencoders（GWAE），通过将 variational autoencoding scheme 与 Gromov-Wasserstein metric 相结合来直接匹配潜变量和数据分布，以实现在不改变其目标的情况下将 meta-priors 引入潜空间。

    Sep, 2022

  • 超球面变分自编码器

    本研究提出了利用 von Mises-Fisher 分布替代 Gaussian 分布模型的 VAE，能更好地捕捉数据中的超球面潜在结构，且在低维数据类型中优于传统 VAE。

    Apr, 2018

  • 基于 Wasserstein 自编码器的低维本质数据的统计分析

    研究论文通过适当选择网络结构，展示了 WAEs 能够学习数据分布，并且其收敛速度与特征维度无关，只依赖于数据分布的内在维度。

    Feb, 2024

  • 使用已学习的相似度度量进行像素外的自编码

    提出了一种自动编码器技术，结合了变分自动编码器与生成式对抗网络，可透过特征表示量测数据空间的相似性，进而以特征误差为基础重新构建数据分布，其具有位移不变性，运用在脸部图像上可提供更优的视觉保真度，并能够学习出抽象且高层次的视觉特征。

    Dec, 2015

  • 混合曲率变分自编码器

    本文提出一种混合曲率变分自编码器，可以在常数曲率的黎曼流形上训练，其中每个组件的曲率可以是固定或可学习的，将欧几里得变分自编码器推广到曲线潜空间，并在组件的曲率接近 0 时恢复欧几里得空间。

    Nov, 2019