REMARK-LLM: 生成大型语言模型的鲁棒高效水印框架

Oct, 2023

REMARK-LLM: 生成大型语言模型的鲁棒高效水印框架

REMARK-LLM: A Robust and Efficient Watermarking Framework for Generative Large Language Models

Ruisi Zhang, Shehzeen Samarah Hussain, Paarth Neekhara, Farinaz Koushanfar

TL;DRREMARK-LLM 是一种高效、稳健的水印嵌入框架，专为大型语言模型（LLMs）生成的文本而设计，采用学习基础的消息编码模块将二进制签名融入 LLM 生成的文本中，并利用重参数化模块将编码消息的密集分布转换为水印文本标记的稀疏分布，同时引入优化的束搜索算法确保生成内容的一致性和完整性，经过广泛的评估验证其在插入水印信息方面优于之前的方法，并且对于多种水印检测和移除攻击表现出更好的鲁棒性。

Abstract

We present remark-llm, a novel efficient, and robust watermarking framework designed for texts generated by large language models (LLMs).

remark-llm watermarking framework large language models message encoding watermark detection

发现论文，激发创造

MarkLLM：一个用于 LLM 数字水印的开源工具包

LLM 水印技术已成为减轻大型语言模型潜在滥用的关键之一，而 MarkLLM 作为一个开源工具包，提供了统一而可扩展的框架来实现 LLM 水印算法，并通过用户友好的界面确保易于使用，同时支持自动可视化算法机制，以及 12 个工具和两种类型的自动化评估流程，旨在支持研究人员并促进公众对 LLM 水印技术的理解和参与，推动研究和应用的进一步发展。

May, 2024

通过强化学习学习为 LLM 生成的文本添加水印

我们研究了如何给 LLM 输出添加水印，即将可算法检测到的信号嵌入 LLM 生成的文本以跟踪滥用。与目前主流方法不同，我们扩大了水印设计空间，将 LLM 调整阶段包括在水印流程中。通过强化学习提出了一种共同训练框架，迭代地 (1) 训练一个检测器来检测生成的带水印文本，(2) 调整 LLM 以生成容易被检测器检测到的文本，同时保持其正常效用。我们实证表明我们的水印更准确、更稳健、更适应新的攻击。此外，如果与对齐一起使用，额外引入的开销很低，只需要训练一个额外的奖励模型 (即我们的检测器)。我们希望我们的工作能够引起更多关于更广泛的水印设计的研究努力，不局限于与固定 LLM 一起工作。我们开源了代码：this https URL。

Mar, 2024

大型语言模型的自适应文本水印

该论文提出了一种自适应水印策略来解决大语言模型生成高质量水印文本并保持强大安全性、稳健性以及在没有先验知识的情况下检测水印的能力的问题。

Jan, 2024

黑盒语言模型生成文本的水印技术

防止语言模型误用的关键在于检测其生成的文本，此文介绍了一种基于水印的白盒 LLMs 方法，以及为黑盒 LLMs 开发的水印框架，实现了自主注入水印以避免在 API 下载应用时因选择黑盒 LLMs 而导致不能使用水印的问题。

May, 2023

大型语言模型的增强可检测性和语义一致性的特定记号水印

利用多目标优化方法实现识别性与语义完整性，我们提出了一种在大型语言模型生成的文本中嵌入水印的新方法。实验证明，我们的方法在提高大型语言模型生成文本的可识别性的同时保持其语义连贯性方面优于当前的水印技术。

Feb, 2024

PostMark: 大型语言模型的稳健黑盒水印

我们开发了 PostMark，这是一种模块化的事后水印程序，可以在解码过程完成后将一组依赖于输入的词语插入到文本中，而无需访问对数。与现有的水印方法相比，PostMark 对释词攻击更加鲁棒，并通过自动和人工评估来评估其对文本质量的影响，突出了质量和抗释词性之间的权衡。

Jun, 2024

关于大型语言模型中水印可靠性的研究

本文探讨使用不同的检测方法来对水印进行可靠的鉴别，并研究机器生成文本的大量观察对于水印的鉴别是否可靠，最终表明水印技术是一项可靠的解决方案，尤其是在样本复杂度越高时，水印证据会逐渐累积，并最终被检测出来。

Jun, 2023

利用其优势攻击 LLM 水印

通过对现有 LLM 水印系统的攻击研究，提出了一套实用准则，用于生成和检测 LLM 水印，旨在解决水印系统在保留质量、鲁棒性和公共检测 API 等方面所面临的各种攻击问题。

Feb, 2024

大型语言模型的语义不变鲁棒水印

我们提出了一种语义不变的大型语言模型水印方法，该方法在保证攻击鲁棒性和安全鲁棒性的基础上，通过利用另一个嵌入式大型语言模型生成语义嵌入，将其转化为水印逻辑。我们的实验证明了该方法在语义不变的设置下具有很强的攻击鲁棒性，并且水印具有充分的安全鲁棒性。

Oct, 2023

EmMark：用于嵌入式量化大型语言模型的强韧水印保护知识产权

EmMark 是一种保护资源受限边缘设备上嵌入式大型语言模型的知识产权的新型水印框架，通过查询水印模型权重和匹配插入的签名来验证所有者身份，通过选择策略性的水印权重参数，在保持模型质量的同时确保稳健性。通过对 OPT 和 LLaMA-2 系列模型的广泛评估，EmMark 展示了其保真度，在保持模型性能的情况下实现了 100% 的水印提取成功率，并展示了对水印移除和伪造攻击的抵抗能力。

Feb, 2024