May, 2024

基于可伸缩性的生成模型中新模式的识别

PDF
TL;DR通过 Fourier-based Identification of Novel Clusters (FINC) 方法，我们在标准计算机视觉数据集和生成模型框架上应用 FINC 方法，并得出数值结果，表明该基于傅里叶的方法在突出被广泛使用的生成模型所捕捉的不同频率下的样本类型上具有可扩展性和效率。
generative modelsfourier-based identification of novel clustersfincsample typesscability
发现论文，激发创造
  • 生成模型新颖性基于熵的可解释评估

    我们提出了一种基于核熵新颖性（KEN）得分的模式 - based 新颖性量化方法，用于多模态生成模型的新颖性评估，并通过对合成和真实图像分布的数值结果表明了该方法在检测新颖模式和比较最先进的生成模型方面的成功。

    Feb, 2024

  • 迈向可扩展的无参考生成模型评估

    我们提出了傅里叶基核熵估计（FKEA）方法，利用 FKEA 的近似特征谱来高效估计生成数据的多样性评分，并展示了其在大规模生成模型评估中的可扩展性和解释性。

    Jul, 2024

  • 生成模型在频域的指纹

    通过在频域解释网络组件，我们发现了生成模型频率分布和网格状模式不一致问题的来源。利用这些发现，我们开发了低成本的合成模型，能够生成模拟真实生成模型中观察到的频率模式的图像。这些模式的指纹提取器在合成数据上进行预训练后，在验证、识别和分析如 GAN、VAE、Flow 和扩散等真实基于 CNN 的生成模型的关系方面展现出优越的迁移能力。

    Jul, 2023

  • 贝叶斯紧张样条估计模数

    本研究提出了一种基于核估计器和简捷组成样条的方法，通过贝叶斯推理范式实现特征探索、模型选择和模态测试，从而提高概率密度函数的预测精度与模型解释性，在体育分析等领域得到展示，并得到了充分的模拟实验验证。

    Jul, 2023

  • 使用基于集合的人工指纹学习生成模型的鲁棒表示

    通过学习生成模型留下来的残留特征作为身份信息，进一步确定人工指纹的表示的生成模型，并提出了基于集合编码和对比训练的新学习方法，通过与最先进的指纹方法的比较和消融研究，得到了稳定性和可归属性的改进。

    Jun, 2022

  • 随机傅里叶特征

    张量代数提供了一种针对任意长度序列的相似性度量中最强大的一种方法，即具有概率分析中有吸引力的理论保证的签名核，本研究针对这严重的计算瓶颈，提出了一种在序列的非欧几里得领域上进行签名核加速的基于随机傅里叶特征的方法，并且证明了所提出无偏估计器的均匀逼近保证，同时保持其在序列长度和数量上的计算为线性，此外，结合张量投影的最新进展，我们得到了两个更可扩展的时间序列特征，具有有利的集中性质和在时间和内存上的计算复杂度，实证结果表明，计算成本的降低在中等规模数据集上几乎没有影响准确性，并且使得我们能够处理高达一百万种时间序列的大型数据集。

    Nov, 2023

  • 深度生成图像模型的几何学及其应用

    本文基于几何学的角度探究 GAN 潜在空间的性质和图像变异机制，并提出一种基于网络结构的方法计算 GAN 图像多丽安流形的黎曼度量，这一方法可以有效地优化潜在空间的优化等应用，并便于解释变换维度。

    Jan, 2021

  • 基于 Fourier 的领域泛化框架

    本文提出了一种基于傅里叶的领域泛化新视角，通过开发一种称为幅度混合的新型傅里叶数据增强策略，来强制模型捕获高级语义信息，同时在原始图像与增强图像之间引入了一种双重一致性损失方法，取得了领域泛化的最新成果并显著提高了性能。

    May, 2021

  • 多样性 vs. 可识别性：一次性生成模型中的类人泛化

    本文提出了一种新的评估单次生成模型的框架，用于比较其与人类生成的差异，确定其代表人体模型的模型以及模型参数。该框架通过对样本可识别性和样本多样性（即类内差异）两个方面进行评估，并对代表性单次生成模型在 Omniglot 手写数据集上进行了详细地分析。研究表明，GAN 型和 VAE 型模型的多样性和可识别性具有互补性，同时，空间注意和上下文整合在多样性和可识别性之间具有线性贡献，而解缠效应则能沿着拱形曲线传递模型，从而最大化可识别性。评估结果可用于推动人工智能技术的发展。

    May, 2022

  • 发生在生成性扩散模型中的自发对称性破缺

    本文探讨了生成扩散模型的动力学性质，发现其决定性的相变点将其生成过程分为两个不同的阶段，对此我们提出了一种高斯后初始化方案，可显著提高模型性能，增加样本多样性并减少偏差，实验表明在快速采样上可实现 3 倍的 FID 改进。

    May, 2023