ICMLMay, 2023

通过对比估计进行无模态顺序解缠样本和预测

PDF
TL;DR本文提出了一种无监督序列解缠框架，它基于对矩乘自编码器或变分自编码器从下层模型生成、采样和比较实际分布的对比估计方法，而不需要外部信号、使用常见批量大小和来自潜在空间本身的样本。我们在视频、音频和时间序列基准上评估了我们的方法，取得了与现有技术相比的最新结果。
unsupervised disentanglementself-supervised techniquessequential disentanglementcontrastive estimationvariational model
发现论文，激发创造
  • 从单个序列元素中提取静态信息的顺序解缩

    通过引入简单且有效的减法归纳偏差，条件于单个样本，我们提出了一种新颖且简单的架构，以减少信息泄漏，并展示了在生成和预测任务上相比多个强基准方法更先进的结果。

    Jun, 2024

  • S3VAE：自监督序列 VAE 进行特征解缕和数据生成

    该论文提出了一种顺序变分自编码器，利用自监督方法，通过利用输入数据自身或外部模型提供的监督信号设计辅助任务，轻松将输入序列表示分解为静态因素和动态因素，并在视频和音频等领域的综合实验中证明其在表示分解和序列数据生成方面的有效性。

    May, 2020

  • 对比分解时序变分自编码器

    提出了一种称为对比去纠缠顺序变分自动编码器（C-DSVAE）的方法来进行自我监督的去纠缠表示学习，并使用对比估计的互信息以及简单且有效的数据增强技术来引入附加的归纳偏差。实验结果显示，C-DSVAE 在多个度量标准上显著优于现有的最先进方法。

    Oct, 2021

  • 从未标记的观测中变分推断出解耦的潜在概念

    本文提出一个基于变分推理的方法，从大量未标记的观察中推断分离的潜在因素，通过对所观察数据的近似后验期望引入正则化项，从而鼓励分离；同时，提出了一种新的分离度量，与解码器输出中观察到的定性分离更加一致，经实验证明，在分离度和数据似然（重建质量）方面存在显著的改进。

    Nov, 2017

  • 图像合成的无监督鲁棒性潜在特征分离

    通过学习一个新的方法，深度生成模型可以不需要姿态注释便可学习到表征物体外观和姿态等属性的独立潜在特征，这些特征是可以解释的，且能够生成和修改图像。

    Oct, 2019

  • 多视角自监督解缠结通用图像降噪

    通过多角度自监督解缠方法 (MeD)，本文在合成噪声和真实噪声的实验分析中展现了该方法在未见过的新噪声类型上相对于之前的自监督方法的卓越性能。在真实噪声上，该方法的性能甚至超过了其监督对照组超过 3 dB。

    Sep, 2023

  • 无自编码的无监督解缠的陷阱和未来方向

    本文研究基于对比学习的正则化方法来实现大规模数据集的非监督式解缠表示学习，并分析了不同正则化方法的利弊与下游任务性能表现。

    Aug, 2021

  • 无监督学习序列数据的分离和可解释表示

    本文提出一种分解的分层变分自动编码器，能够在无监督的情况下从序列数据中学习分离和可解释的表征。该模型基于多尺度信息的分层结构，实现了针对不同潜变量集合的序列依赖先验和序列无关先验。通过在两个语音语料库上的实验，表明该模型能够通过操纵不同的潜变量集合来转换说话人或语言内容，并在说话人验证和自动语音识别任务中优于基线模型。

    Sep, 2017

  • DualContrast: 无监督分离内容和变换的隐式参数化

    我们开发了一种名为 DualContrast 的新型自监督方法，专门用于解决与形状相关的图像数据集中的内容和变换的无监督分离问题。我们的广泛实验证明了 DualContrast 相对于现有的自监督和显式参数化方法的优越性。我们利用 DualContrast 在细胞 3D 蛋白质图像中分离了蛋白质的身份和构象，以及在 MNIST、Linemod Object 数据集中的视角以及在 Starmen 数据集中的人体运动变形作为变换。

    May, 2024

  • 负样本无关对比学习的解缠实证研究

    本文提出了一种新的基于互信息的解缠度度量来研究负样本自由对比学习方法的解缠特性。作者在高维表示空间中将负样本自由对比学习方法引入解缠表示学习领域，并通过对流行的合成数据集和真实世界 CelebA 数据集的实验表明，该方法可以学到一个良好的解缠表示子集。

    Jun, 2022