对基于水印的 AI 生成内容检测方法的鲁棒性进行了系统研究，并提出了一种对抗性后处理方法，该方法可以让 AI 生成的图像逃避检测，并且保持良好的视觉质量，从而凸显了当前水印检测方法的不足之处。

May, 2023

通过使用两阶段统一的高绑定效果水印验证机制，我们提出了一种对无条件图像生成模型进行版权保护和数据验证的方法，可以在使用模型输出图像的情况下几乎实现零误报率的验证工作，而且可以跨不同类型的模型实现数据窃取验证。

Oct, 2023

最近几年，大型语言模型和扩散模型等生成人工智能模型在内容生产方面产生了革命性的影响，其生成的内容已嵌入到日常生活和工作的各个方面，涵盖了文本、图像、视频和音频。尽管人工智能生成的内容的真实性越来越高，接近人类创作水平，但这些技术也导致了伪造的人工智能生成内容的出现，给真伪信息的鉴别带来了新的挑战。本文提出了一个新的分类方法，更全面地介绍了目前伪造的人工智能生成内容的方法。接下来，我们探讨了伪造的人工智能生成内容的模态和生成技术，归类为人工智能生成的虚假信息和误导信息。在多个角度上，我们介绍了伪造的人工智能生成内容的检测方法，包括欺骗性伪造的检测、深度伪像的检测和错觉性伪造的检测。最后，我们讨论了未来研究的重要挑战和有希望的研究领域。

Apr, 2024

通过将激进广义保护性水印与被动检测策略相结合，提出了一种统一的图像版权源追踪和归属性的方法，该方法采用个性化生成模型的输出作为初始步骤，利用强大的视觉主干网络对特定生成技术进行分类，并实现了增量学习策略以提高模型对新一代方法的适应性。实验证明了该方法在源追踪和归属性任务中的功效以及对知识遗忘的鲁棒性。

May, 2024

通过对现有 LLM 水印系统的攻击研究，提出了一套实用准则，用于生成和检测 LLM 水印，旨在解决水印系统在保留质量、鲁棒性和公共检测 API 等方面所面临的各种攻击问题。

Feb, 2024

提出了一种将个人水印嵌入敌对实例生成中的新框架，以生成具有可见水印的图像，防止敌对模型模仿未授权图像，并在各种条件图像生成场景进行广泛实验，证明了敌对实例具有良好的传递性，从而提供了一种保护基于扩散模型的版权的简单而有效的方法。

Apr, 2024

通过分析 AI 图像检测方法，研究了水印技术以及基于分类器的深度伪造检测器的强大性，发现在扰动预算较低的情况下，扩散纯化攻击能够有效地去除水印，而对于图像有明显更改的高扰动水印方法，我们开发了一种模型替换对抗攻击来成功去除水印。同时发现水印技术容易受到欺骗攻击，对开发者的声誉造成损害，并通过实验表明分类器的鲁棒性和可靠性之间存在基本的权衡关系。

Sep, 2023

本文提出了一种新方法，将无线感知技术与人工智能生成的内容相结合，提出了一个统一的无线感知 - 人工智能生成内容框架，以改善数字内容生产的质量，在服务需求的基础上生成相应的数字内容。该框架能够根据用户的姿势作为约束生成内容，并能接受用户的反馈，从而调整边缘服务器上的计算资源以提高服务质量。实验结果验证了该框架的有效性，凸显了其在准确生成数字内容方面的潜力。

Mar, 2023

通过重新生成的方法，我们提出一种可解释的数据所有权验证程序，能够识别潜在指纹，并通过迭代数据再生增强生成模型中的指纹。此方法不仅保护 API 的知识产权，还解决了信息传播和学术不端等重要问题，确保信息源的完整性和作者身份的真实性。

Feb, 2024

通过严格的概率分析，我们第一次对基于水印的面向用户感知的 AI 生成内容的检测和归属性能进行了系统研究，并开发了有效的算法来选择用户的水印以提高归属性能。我们的理论和实证结果表明，基于水印的检测和归属性能具有水印方法的准确性和 (非) 稳健性的特性。

Apr, 2024