Sep, 2023

探究实际场景下扩散模型的版权问题

PDF
TL;DR我们的研究通过对部分版权侵权进行探究，并使用与版权有很大差异的提示，解决了以往研究的局限性。我们开发了一个数据生成流程，为扩散模型中的版权研究创建数据集。使用我们的流程，我们创建了包含不同扩散模型中版权侵权样本的数据集，并在各种标准下进行评估。我们的结果显示，在一系列扩散模型中生成侵权内容的普遍性，包括最新的稳定扩散 XL 模型。
copyrightgenerative modelsdiffusion modelscopyright infringementdata generation pipeline
发现论文，激发创造
  • 文本到图像传播模型的版权保护数据集与基准

    该研究提供了第一个大规模标准化的数据集和基准库，以及评估版权保护方法有效性的一套评估指标。

    Jan, 2024

  • 理解和减轻扩散模型中的复制现象

    分析了文本到图像扩散模型中的记忆问题，提出了减少训练和推理时间中数据复制的几种技术。

    May, 2023

  • 测量扩散模型在模仿人类艺术家方面的成功

    现代扩散模型在人工智能图像生成中处于领先地位。本研究发现，这种成功部分归因于在互联网规模的数据上进行训练，其中包括版权作品。研究通过使用 CLIP 编码器进行艺术家的模仿，验证模型是否能够成功模仿人类艺术家。

    Jul, 2023

  • 潜在扩散模型的伪装版权侵权

    通过揭示伪装生成算法、伪装的揭示以及如何检测它们来增强现有的工具箱，我们提供了对伪装版版权侵权的更好认识，同时引入了更广泛的承认概念，以便理解此类间接访问。

    Apr, 2024

  • 扩散艺术还是数码伪造？探究扩散模型中数据复制

    本文研究了图像检索框架，让我们能够比较生成的图像与训练样本，并检测什么时候复制了内容。我们使用这个框架分析了多个数据集上训练的扩散模型，包括牛津花卉，Celeb-A，ImageNet 和 LAION，讨论了训练集大小等因素对内容复制率的影响。同时，我们还发现了一些这种扩散模型直接从其训练数据中复制的情况，包括流行的稳定扩散模型。

    Dec, 2022

  • 从扩散模型获取训练数据

    本文研究了图像扩散模型，如 DALL-E 2，Imagen 和 Stable Diffusion，发现它们从训练数据中记忆单个图像并在生成时发射此类图像，总结了此类模型的隐私风险和影响隐私保护培训的新进展。

    Jan, 2023

  • 评估和缓解视觉生成人工智能中的知识产权侵权

    通过对视觉生成 AI 模型进行广泛评估，我们发现当输入提示包含角色的名称或其特征的描述时，最先进的视觉生成模型能够生成与主要娱乐公司（如索尼、漫威和任天堂）持有的知识产权相似的内容，由此引发潜在的法律担忧。为了减轻此类知识产权侵权问题，我们提出一种防御方法，通过在扩散过程中利用引导技术，开发了一种修订生成范例，这种范例能够识别可能侵权的生成内容，并在整个扩散过程中减轻侵权行为，而无需重新训练或微调预训练模型。对 Spider-Man、Iron Man 和 Superman 等知名角色的实验表明了所提出的防御方法的有效性。

    Jun, 2024

  • 不确定边界：生成式人工智能中的版权问题的多学科方法

    这篇文献综述了生成人工智能领域中与版权侵权相关的问题，包括侵权检测的方法、保护版权作品的现有技术、评估侵权行为的资源和工具，以及 AI 相关法规和提案，从多个学科角度全面阐述了 AI 驱动内容和版权的意义和问题。

    Mar, 2024

  • 扩散模型越强，后门越容易：通过数据投毒实现版权侵权而无需调整微调流程

    通过在精选数据集中插入有毒数据，利用多模式大型语言模型和文本引导的图像修复技术，本研究证实了在触发特定提示时，微调扩散模型可以生成受版权保护的内容，从而揭示了现行版权保护策略中潜在的陷阱，强调了对扩散模型滥用的加强审查和预防措施的必要性。

    Jan, 2024

  • 在文本到图像生成模型时代重新思考艺术版权侵权问题

    最近的文本到图像生成模型（如稳定扩散）非常擅长模仿和生成受版权保护的内容，这引起了艺术家们的担忧，他们担心自己的独特风格可能会被不当复制。为了解决这个问题，本文将 “艺术版权侵权” 问题重新定义为对图像集进行分类问题，而不是探究图像间的相似性。我们首先介绍了 ArtSavant，这是一个实用的工具，通过与由 WikiArt 策展的 372 位艺术家作品组成的参考数据集进行比较，可以确定艺术家的独特风格，并识别其是否出现在生成的图像中。我们利用两种互补的方法对图像集进行艺术风格分类，包括 TagMatch，这是一种新颖且可解释的方法，更适合非技术相关的利益相关者（艺术家、律师、法官等）广泛使用。利用 ArtSavant 进行大规模实证研究，以量化的方式揭示了三种流行的文本到图像生成模型中艺术风格被复制的普遍情况。在包括许多著名艺术家在内的大量艺术家的数据集中，仅有 20％的艺术家的风格有被当今流行的文本到图像生成模型简单指令提示复制的风险。

    Apr, 2024