基于水印的 AI 生成内容的检测和归因
对基于水印的 AI 生成内容检测方法的鲁棒性进行了系统研究，并提出了一种对抗性后处理方法，该方法可以让 AI 生成的图像逃避检测，并且保持良好的视觉质量，从而凸显了当前水印检测方法的不足之处。
May, 2023
通过将激进广义保护性水印与被动检测策略相结合，提出了一种统一的图像版权源追踪和归属性的方法，该方法采用个性化生成模型的输出作为初始步骤，利用强大的视觉主干网络对特定生成技术进行分类，并实现了增量学习策略以提高模型对新一代方法的适应性。实验证明了该方法在源追踪和归属性任务中的功效以及对知识遗忘的鲁棒性。
May, 2024
人工智能生成内容 (AIGC) 在社交媒体上越来越受欢迎，其服务利用先进的生成模型，如潜在扩散模型和大型语言模型，为用户生成创意内容 (例如逼真的图像，流畅的句子)。本文展示了水印在生成的内容中的易破解性，并提出了 WMaGi 框架，通过利用预训练的扩散模型和生成对抗网络实现水印的移除和伪造，从而实现对生成内容的高速攻击。
Sep, 2023
模型版权的关键问题是所有权验证和水印技术，目前的基于后期方法是通过检查是否具有特定属性来识别可疑的第三方模型是否被盗窃。本文提出了一种新的基于可解释人工智能的水印技术，通过嵌入特征归属的解释中的验证行为来解决现有方法的限制。
May, 2024
通过生成式 AI (GenAI) 来合成和操纵图像的高级提示，然而创作者在 GenAI 训练中无法获得他们内容使用的认可或回报。因此，我们提出了一种叫做 ProMark 的因果归因技术，将合成生成的图像归因于其训练数据的概念，如对象、主题、模板、艺术家或风格。我们展示了我们可以将多达 $2^{16}$ 个独特的水印嵌入到训练数据中，并且每个训练图像可以包含多个水印。ProMark 在保持图像质量的同时，表现优于基于相关性的归因方法。最后，我们提供了几个定性示例，证明水印的存在传达了训练数据和合成图像之间的因果关系。
Mar, 2024
通过分析 AI 图像检测方法，研究了水印技术以及基于分类器的深度伪造检测器的强大性，发现在扰动预算较低的情况下，扩散纯化攻击能够有效地去除水印，而对于图像有明显更改的高扰动水印方法，我们开发了一种模型替换对抗攻击来成功去除水印。同时发现水印技术容易受到欺骗攻击，对开发者的声誉造成损害，并通过实验表明分类器的鲁棒性和可靠性之间存在基本的权衡关系。
Sep, 2023
通过重新生成的方法，我们提出一种可解释的数据所有权验证程序，能够识别潜在指纹，并通过迭代数据再生增强生成模型中的指纹。此方法不仅保护 API 的知识产权，还解决了信息传播和学术不端等重要问题，确保信息源的完整性和作者身份的真实性。
Feb, 2024
通过对现有 LLM 水印系统的攻击研究，提出了一套实用准则，用于生成和检测 LLM 水印，旨在解决水印系统在保留质量、鲁棒性和公共检测 API 等方面所面临的各种攻击问题。
Feb, 2024
本文提出了一种基于水印技术的框架，名为 WASA，该框架可以通过给合成文本嵌入包含信息的水印来解决大语言模型产生的合成文本可能侵犯训练数据知识产权的问题，并且可以实现准确的数据来源归属和数据溯源。经过大量的实证评估，WASA 框架显示其能够实现有效的数据来源归属和数据溯源。
Oct, 2023
为了解决检测人工智能生成文本的问题，本研究提出了一种鲁棒且高质量的方案，名为 GPTWatermark，通过水印的方式确定文本的来源，并在大规模语言模型中展示了其稳定性和高检测准确性。
Jun, 2023