ICLRMay, 2019

使用交叉本地内在维度评估 GAN 的质量

PDF
TL;DR本文提出了一种基于 GAN 模型学习的数据空间的内在维度特征来评估 GAN 生成数据能力的方法，同时提出了一种新的评估度量 CrossLID，并通过在 4 个基准图像数据集上的实验表明，与其他现有的评价指标相比，CrossLID 更加敏锐，并且可以用于改善 GAN 的生成质量。
generative adversarial networksevaluation metricintrinsic dimensionalitycrosslidgeneration quality
发现论文，激发创造
  • 利用本地固有维度检测深度扩散模型生成的图像

    本文提出了使用轻量级多本地内在维度 (multiLID) 技术，在对抗性生成数据检测的基础上，进行合成图像自动检测和相应生成器网络的识别的方法，该方法与现有检测方法相比，在许多现实用例中提供接近完美的检测结果，并证明在扩展性、检测性能和模型鲁棒性等方面的表现优越性。

    Jul, 2023

  • 数据复杂性的几何视角：基于扩散模型的高效局部内部维度估计

    基于扩散模型的 Fokker-Planck 方程提供了一种解决现有方法缺陷的局部内在维度估计器 FLIPD，它兼容于各种流行的深度生成模型，并在局部内在维度估计基准测试中优于现有基线模型。

    Jun, 2024

  • 使用本地内在维度来表征对抗子空间

    本文旨在通过对深度神经网络和其对抗样本的研究，提出并利用局部内部维度 (Local Intrinsic Dimensionality，简称 LID) 给出对抗样本的特征维度描述，并且实验结果表明在五种攻击策略和三项基准数据集上，相较于多种当前主流的检测措施，该方法能够更加准确地区分出对抗样本。

    Jan, 2018

  • 局部内在维度对特征对抗样本子空间描述的限制

    本文研究了使用局部内在维数来刻画深度神经网络对抗性样本的子空间，针对存在的局限性作了实验验证，结果表明 LID 能力有限。

    Mar, 2018

  • 利用局部内在维度表征大型语言模型生成的真实性

    我们研究了如何表征和预测由大型语言模型生成的文本的真实性，这在人类与语言模型之间建立信任的过程中起着关键作用。通过对四个问答数据集进行实验，我们提出的方法通过研究内部激活和量化语言模型激活的本地内在维度（LID）来证明其有效性。此外，我们还研究了语言模型中的内在维度及其与模型层、自回归语言建模和语言模型训练的关系，揭示了内在维度在理解语言模型中的潜力。

    Feb, 2024

  • 基于维纳过程的局部内在维度估计方法视角

    本研究调查了最近最先进的参数化局部内在维度估计方法，从维纳过程的角度探讨了这些方法在其假设不满足时的行为，并给出了这些方法的扩展数学描述以及其误差与数据的概率密度函数之间的关系。

    Jun, 2024

  • 关于生成对抗模型在低内在数据维度下的统计特性

    尽管生成对抗网络（GANs）在实证方面取得了显著的成功，但其统计准确性的理论保证仍然相对悲观。本论文试图在理论和 GANs 以及双向 GANs（BiGANs）的实践之间架起桥梁，通过推导出关于估计密度的统计保证，以数据的固有维度和潜在空间为基础。

    Jan, 2024

  • 生成对抗网络中 FID 和 SID 指标的评估

    使用公共数据集对图像处理中的生成对抗网络（GAN）模型进行训练和评估，发现使用 SID 指标能够有效衡量模型的生成性能，超过或者与使用 FID 指标相当。

    Feb, 2024

  • LIDL: 使用近似似然度量的局部内在维数估计

    提出了一种利用极大似然法进行局部内嵌维度估计的新方法，并成功地通过利用近期参数神经方法在似然估计方面的进展，解决了对高维数据进行非参数最近邻估计中出现的问题。

    Jun, 2022

  • 重新审视使用 GANs 进行图像合成的评估

    本文通过实证研究代表性生成模型 GAN，深入分析了如何在特征空间中代表数据点、如何使用选定样本计算合理距离以及每组要使用多少个实例等问题。实验结果表明，基于 CNN 和 ViT 的架构都是可靠和稳健的特征提取器，CKA 能够在一种模型中跨越各种提取器和分层层次上产生更好的比较，而且在表征两个内部数据相关性之间的相似性方面，CKA 显示出令人满意的样本效率并补充了现有指标（例如 FID）。这些发现帮助我们设计了一个新的测量系统，以便在一致可靠的方式下重新评估了最先进的生成模型。

    Apr, 2023