用Gromov-Wasserstein距离的下界,通过对所有数据矩计算,基于内在和多尺度的方法对比数据流形。实验证明,该方法能够有效地识别不同维度未对齐数据的结构,并展示了在评估生成模型质量方面的功效。
May, 2019
本文介绍了用于学习具有层次结构表示的权威因素的基准、算法和指标,解决了代表学习中处理多种组合的上下文相关性、不确定性等实际生产过程的挑战。
Feb, 2021
探讨了一种无监督的去卷积方法,在使用没有去卷积术语的生成模型中提取去卷积表示,以获得与现有技术相当的结果。
提出DisCo框架,通过利用预训练的生成模型的高生成质量和聚焦于发现作为解缠表示学习因素的遍历方向,从而实现学习解缠表示和发现区别性维度的最新进展。
本文研究基于对比学习的正则化方法来实现大规模数据集的非监督式解缠表示学习,并分析了不同正则化方法的利弊与下游任务性能表现。
Aug, 2021
通过测试不同的数据集和训练方法,我们发现,当生成模型的编码器无法将新颖的组合映射到正确的潜在空间区域时,它们会失败。而当生成模型能够成功时,要么测试条件没有排除足够的样本,要么排除的生成因素能够独立地影响生成图像的不同部分。基于这些结果,我们认为,要想正确地进行推广,生成模型不仅需要捕捉变异因素,而且还需要理解用于生成数据的生成过程的反演方式。
Apr, 2022
介绍了一种基于深度生成 VAE 模型和基于自我监督的深度度量学习 prototype 网络的方法,在无监督的情况下学习到可解释且区分的潜在因素表达式,实验结果表明了该方法在多个数据集上的表现优于现有方法。
May, 2023
通过加入多尺度拓扑损失项,我们提出了TopDis(拓扑分解)方法,用于学习解耦表示。我们采用了一种不同的方法来分析数据流形的拓扑性质,并优化数据流形遍历的拓扑相似性,提出了一种可微分的解耦拓扑损失。我们的方法在无监督学习的情况下工作,并且通过实验证明,所提出的拓扑损失在与最先进结果相比的MIG、FactorVAE得分、SAP得分和DCI解耦得分方面具有改进的效果。此外,我们展示了如何在训练好的生成对抗网络中使用所提出的拓扑损失来找到解耦方向。
Aug, 2023
本研究探讨了生成模型流形的局部几何与生成质量之间的关系,补充了传统评估方法的不足。我们提出了一种新方法,利用局部几何描述符来定量分析生成效果,并发现这些描述符与生成美学及不确定性存在显著相关性。最终的结果表明,通过局部几何训练奖励模型,可以有效控制生成样本的质量。
Aug, 2024
本研究解决了Diffusion Variational Autoencoder ($\Delta$VAE)在捕捉数据集的拓扑和几何结构及解缠潜在因子方面的能力不足的问题。我们提出了一种新的解缠诊断方法——编码器的拓扑度,通过同调理论的工具开发并实施了计算算法。实验结果表明,$\Delta$VAE模型的编码器在训练后其拓扑度变为 $-1$ 或 $+1$,暗示该编码器至少是同胚于同构。
Sep, 2024