利用生成模型理解自然图像分布的(不)可解释性
该论文介绍了用于估计图像概率密度函数的方法,研究了生成模型在 AI 和计算机视觉领域的应用,探讨了用于防御对抗性攻击的可能性,并讨论了语义解释在描述图像上的应用。
Jul, 2023
通过重新参数化的视角深入研究分布密度的行为,揭示在现有应用中赋予异常点密度的经验值与应用期望相冲突,提出利用这些似然函数进行异常检测依赖强的暗含假设,明确表述这些假设才能实现可靠异常检测。
Dec, 2020
本文研究了生成对抗网络(GAN)如何从有限样本中学习概率分布,得到了 GAN 在一组 H"older 类定义的积分概率度量下的收敛速度和 Wasserstein 距离特殊情况下的学习率,并证明了当网络结构适当选择时,GAN 能够自适应地学习低维结构或具有 H"older 密度的数据分布。特别是对于集中在低维集合周围的分布,我们展示了 GAN 的学习速率不取决于高环境维度,而取决于较低的内在维度。我们的分析基于一种新的神谕不等式,将估计误差分解为生成器和鉴别器逼近误差和统计误差,这可能是具有独立研究价值的。
May, 2021
该论文研究了无监督学习中生成模型的训练方法,提出了一种在对抗网络与似然训练之间进行混合训练的方法,其中使用深度可逆变换来解决概率和逆变换之间的冲突,实现了更好的生成样本和更高的似然性评估。
Jan, 2019
研究提出了一种更高效的密度估计方法,从而解决了一些复杂的生成学习算法中难以估计模型质量的问题,并证明其提供了真实测试对数似然的下界和无偏估计,同时还提出了一种偏差估计的变体,可以在有限的样本数下可靠地用于模型比较。
Nov, 2013
尽管生成对抗网络(GANs)在实证方面取得了显著的成功,但其统计准确性的理论保证仍然相对悲观。本论文试图在理论和 GANs 以及双向 GANs(BiGANs)的实践之间架起桥梁,通过推导出关于估计密度的统计保证,以数据的固有维度和潜在空间为基础。
Jan, 2024
本文提出一个系统研究深度生成模型的偏差和泛化的框架,并通过认知心理学实验方法探讨其生成新属性和组合的特点与人类心理学的相似之处。作者发现这些模式与常用模型和结构一致。
Nov, 2018
提出了一种简单的方法来评估生成对抗网络中生成的图像质量,通过定义与真实图像在鉴别器中的嵌入分布相关的高斯似然函数,并基于此定义两个简单的度量方式,从而得出一种适用于各种 GAN 的生成图像适应度的简单度量标准,CIFAR-10 上的实证结果证明了提出的度量和生成图像的质量之间的强相关性。
Jul, 2017