Apr, 2024

基于大型语言模型的生成文本隐写术

PDF
TL;DR基于大型语言模型用户界面的黑盒生成式文本隐写方法（LLM-Stega）研究了关于大型语言模型的高质量文本生成模糊了人类和机器之间的边界，通过用户界面对 LLM 进行秘密通信。通过构建关键词集合和设计一种新的加密隐写映射算法，提出了一种基于拒绝抽样优化机制来保证秘密信息的准确提取和生成隐写文本丰富语义的 LLM-Stega 方法，全面的实验表明该方法优于当前最先进的方法。
large language modelsgenerative text steganographyllm-stegaencrypted steganographic mappingreject sampling
发现论文，激发创造
  • LLsM：大型语言模型下的生成型语言隐写

    利用大型语言模型（LLM）的 LLsM 方案，通过微调代表语言模型的 LLM LLaMA2，并结合特定信息生成具有特定话语特征的控制性隐写文本，该方案在文本质量、统计分析、话语匹配和反隐写分析等方面优于主流基准，特别是在长篇隐写任务中具备潜在的优势。

    Jan, 2024

  • 使用 LSTMs 生成隐写文本

    为了保护用户隐私，我们设计了一种基于 LSTM 神经网络的语言隐写系统，可以让两个用户在不被攻击者察觉的情况下交换加密信息，并且在 Twitter 和 Enron 邮件数据集上实现了高质量的隐写文本，显著提高了加密位数。

    May, 2017

  • 重新思考 LLM 和语言隐写分析：高效检测强隐藏隐写

    为了检测复杂场景中的隐写文本，提出了一种名为 LSGC 的新型语言隐写分析方法，其中包括生成模式和分类模式，能够显著提高检测性能并减少训练时间。

    Jun, 2024

  • 可证明安全的生成式语言隐写术

    本文提出一种名为 ADG 的具有可证明安全性的生成语言隐写方法，该方法使用自适应动态分组的令牌递归嵌入秘密信息以提高安全性。 通过在三个公共语料库上进行广泛实验，证明了 ADG 的不可察觉性并成功生成几乎完美安全的隐写文本。

    Jun, 2021

  • 基于掩码语言模型的令人沮丧的基于编辑的语言隐写术

    本文提出了一种基于掩码语言模型的语言隐写术，它克服了传统编辑方法的繁琐规则构建，并具有更高的负载能力和更好的安全性能。此方法比生成方法更易于控制安全性和负载能力之间的权衡。

    Apr, 2021

  • 检测 LLM 生成的文本的科学

    该研究对大型语言模型生成文本的检测技术现状及未来方向进行了综述，并提出了发展全面的评估指标和威胁控制方案等必要措施。关注点包括大型语言模型的开源威胁和其所产生的可能的误传信息问题。

    Feb, 2023

  • 神经语言隐写术

    利用神经语言模型和算术编码的隐写术技术，生成真实的语言覆盖句，并与语言模型分布相匹配，同时保护安全性。

    Sep, 2019

  • 零封装生成型语言隐写术

    本研究提出了一种基于上下文学习的零样本方法，用于语言隐藏，以更好地实现感知和统计上的不可察觉性，并设计了几个新的度量标准和可复现的语言评估方法来衡量隐藏文本的隐晦性。实验结果表明，该方法产生了比其他任何方法更多的无罪和可理解的隐藏文本。

    Mar, 2024

  • 文本编码器缺乏知识：利用生成型语言模型为特定领域的语义文本相似性提供支持

    语义文本相似度问题可以作为生成文本问题来解决，生成型的大型语言模型在特定领域的语义相似度任务中表现优于基于编码器的模型，并且在需要世界知识的 STS 任务上，新收集的数据验证了这个结论。

    Sep, 2023

  • 解读文本真实性：通过大语言语义的普遍策略来检测人类与机器生成的文本

    通过引入一个新的系统 T5LLMCipher，结合预训练的 T5 编码器和 LLM 嵌入子聚类，我们在 9 个不同生成器和领域中评估了我们的方法，并发现与现有方法相比，我们的方法在看不见的生成器和领域中对机器生成的文本的 F1 得分平均提高了 19.6％，正确属性文本的生成器的准确率达到 93.6％。

    Jan, 2024