Jul, 2023

水印条件文本生成的人工智能检测：揭示挑战和语义感知水印解决方案

PDF
TL;DR通过在机器生成的文本中引入水印并利用此信息进行检测，以缓解语言模型潜在风险的方法，以及提出的基于语义感知的水印算法，在保持检测能力的同时，在各种文本生成模型中取得了显著的改进，包括 BART 和 Flan-T5，在摘要生成和数据到文本生成等任务中。
language modelswatermarksconditional text generationsummarizationdata-to-text generation
发现论文，激发创造
  • AI 自动生成文本的可证明鲁棒水印

    为了解决检测人工智能生成文本的问题，本研究提出了一种鲁棒且高质量的方案，名为 GPTWatermark，通过水印的方式确定文本的来源，并在大规模语言模型中展示了其稳定性和高检测准确性。

    Jun, 2023

  • 黑盒语言模型生成文本的水印技术

    防止语言模型误用的关键在于检测其生成的文本，此文介绍了一种基于水印的白盒 LLMs 方法，以及为黑盒 LLMs 开发的水印框架，实现了自主注入水印以避免在 API 下载应用时因选择黑盒 LLMs 而导致不能使用水印的问题。

    May, 2023

  • 大型语言模型的增强可检测性和语义一致性的特定记号水印

    利用多目标优化方法实现识别性与语义完整性，我们提出了一种在大型语言模型生成的文本中嵌入水印的新方法。实验证明，我们的方法在提高大型语言模型生成文本的可识别性的同时保持其语义连贯性方面优于当前的水印技术。

    Feb, 2024

  • 大型语言模型的自适应文本水印

    该论文提出了一种自适应水印策略来解决大语言模型生成高质量水印文本并保持强大安全性、稳健性以及在没有先验知识的情况下检测水印的能力的问题。

    Jan, 2024

  • 大语言模型时代的文本水印调查

    通过文本水印技术，在生成的文本中嵌入不可见但可检测的模式，有助于追踪和验证文本来源，从而防止滥用和盗版。该综述对当前的文本水印技术进行了全面总结，包括不同技术的概述和比较、算法的评估方法以及可能的应用领域，以帮助研究人员全面了解文本水印技术、促进进一步的发展。

    Dec, 2023

  • 大型语言模型的水印

    本研究提出了一种基于水印技术的保护私有语言模型的框架，通过嵌入可被算法识别但人类无法察觉的信号保证模型输出的安全性，并利用解释性 p 值的统计学方法检测水印的敏感性。测试结果表明本方法对于 Open Pretrained Transformer 等大型语言模型的检测效果良好，能够提升模型的鲁棒性和安全性。

    Jan, 2023

  • 大型语言模型的私有水印

    我们提出了第一种私有水印算法，通过使用两个不同的神经网络进行水印生成和检测，扩展了当前的文本水印算法，而不是在两个阶段都使用相同的密钥，实现了高效准确地检测网络，并且对生成和检测速度影响小。

    Jul, 2023

  • WaterJudge：在为大语言模型加水印时实现质量检测与权衡

    通过比较评估的灵活自然语言生成评估框架，本研究提出了一个简单的分析框架，用于评估特定水印设置引起的生成文本质量降低，以找到平衡性能和易检测性的最佳水印操作点。该方法应用于两个不同的摘要系统和一个翻译系统，实现了任务内和跨任务的模型分析。

    Mar, 2024

  • 基于采样的水印方法用于识别机器生成的文本

    提出了一种新的水印方法来检测机器生成的文本，并通过与一种先进的水印方法进行了比较，证明了该方法在在保持文本质量的同时，能够有效地区分带水印和不带水印的文本，并取得了较高的检测率。

    Nov, 2023

  • 关于大型语言模型中水印可靠性的研究

    本文探讨使用不同的检测方法来对水印进行可靠的鉴别，并研究机器生成文本的大量观察对于水印的鉴别是否可靠，最终表明水印技术是一项可靠的解决方案，尤其是在样本复杂度越高时，水印证据会逐渐累积，并最终被检测出来。

    Jun, 2023