文本到图像生成模型的概率版权保护可能失败

Nov, 2023

文本到图像生成模型的概率版权保护可能失败

Probabilistic Copyright Protection Can Fail for Text-to-Image Generative Models

Xiang Li, Qianli Shen, Kenji Kawaguchi

TL;DR通过对文本到图像生成模型进行持续交互和扩大每次交互的成功概率，我们引入了一种名为 VA3 的创新在线攻击框架，揭示了这些保护机制的漏洞，并详细论证了在文本到图像生成模型的实际应用中实施概率版权保护的潜在风险。

Abstract

The booming use of text-to-image generative models has raised concerns about their high risk of producing copyright-infringing content. While probabilistic copyright protection methods provide a probabilistic gua

text-to-image generative models copyright-infringing content virtually assured amplification attack probabilistic copyright protection practical applications

发现论文，激发创造

生成型人工智能中数据的知识产权保护方法评述

大型生成型人工智能（GAI）模型可以生成逐渐无法区分是否人工生成的文本、图片、声音和其他形式的媒体。本文研究了训练数据的知识产权问题，重点关注生成模型的特性，探讨可能导致潜在知识产权侵犯的滥用行为，并提出了一个分类体系，对 GAI 中保护数据免受知识产权侵犯的技术解决方案进行系统评述。

Apr, 2024

文本到图像传播模型的版权保护数据集与基准

该研究提供了第一个大规模标准化的数据集和基准库，以及评估版权保护方法有效性的一套评估指标。

Jan, 2024

文本到图像模型中的人类内容版权保护插件授权

该研究论文讨论了文本到图像生成模型中的版权侵权问题，并提出了版权插件授权框架，通过增加、提取和合并三个操作来解决该问题，以促进公平使用并在生成型人工智能时代提供人类版权保护的有效解决方案。

Apr, 2024

在文本到图像生成模型时代重新思考艺术版权侵权问题

最近的文本到图像生成模型（如稳定扩散）非常擅长模仿和生成受版权保护的内容，这引起了艺术家们的担忧，他们担心自己的独特风格可能会被不当复制。为了解决这个问题，本文将 “艺术版权侵权” 问题重新定义为对图像集进行分类问题，而不是探究图像间的相似性。我们首先介绍了 ArtSavant，这是一个实用的工具，通过与由 WikiArt 策展的 372 位艺术家作品组成的参考数据集进行比较，可以确定艺术家的独特风格，并识别其是否出现在生成的图像中。我们利用两种互补的方法对图像集进行艺术风格分类，包括 TagMatch，这是一种新颖且可解释的方法，更适合非技术相关的利益相关者（艺术家、律师、法官等）广泛使用。利用 ArtSavant 进行大规模实证研究，以量化的方式揭示了三种流行的文本到图像生成模型中艺术风格被复制的普遍情况。在包括许多著名艺术家在内的大量艺术家的数据集中，仅有 20％的艺术家的风格有被当今流行的文本到图像生成模型简单指令提示复制的风险。

Apr, 2024

评估和缓解视觉生成人工智能中的知识产权侵权

通过对视觉生成 AI 模型进行广泛评估，我们发现当输入提示包含角色的名称或其特征的描述时，最先进的视觉生成模型能够生成与主要娱乐公司（如索尼、漫威和任天堂）持有的知识产权相似的内容，由此引发潜在的法律担忧。为了减轻此类知识产权侵权问题，我们提出一种防御方法，通过在扩散过程中利用引导技术，开发了一种修订生成范例，这种范例能够识别可能侵权的生成内容，并在整个扩散过程中减轻侵权行为，而无需重新训练或微调预训练模型。对 Spider-Man、Iron Man 和 Superman 等知名角色的实验表明了所提出的防御方法的有效性。

Jun, 2024

保护生成对抗网络知识产权免受歧义攻击

本文提出了一个黑盒和白盒设置的完整保护框架，对 GAN 进行知识产权保护，以抵御恶意的复制、分享和重新分发。实证分析表明，该方法不会影响原始 GAN 的性能，同时能够抵御嵌入式水印的删除和模糊攻击。

Feb, 2021

生成式人工智能中的版权保护：技术视角

从技术角度综述了版权保护，包括数据源权利保护和生成模型版权保护，探讨了数据所有者保护内容和合法利用 DGMs 的方法，以及防止模型盗取和识别特定模型生成结果的策略。同时，强调了现有技术限制和待开发领域，并讨论了版权保护对 Generative AI 可持续和道德发展的重要性。

Feb, 2024

生成 AI 版权挑战的经济解决方案

Apr, 2024

文本到图像模型中的危害放大

我们的研究论文使用形式化定义 “harm amplification”，并开发了量化伤害扩大的方法，旨在解决 Text-to-image 模型中的安全问题，并在实际部署场景中检验了不同方法的效果，包括伤害扩大对不同性别的差异影响。

Feb, 2024

生成对抗网络的所有权保护

提出了一种基于目标模型及其盗版模型共同特征的新型所有权保护方法，无需重新训练目标模型，能够有效抵御现有模型提取攻击和自适应攻击，并在实验中取得了最佳保护效果。

Jun, 2023