Jan, 2024

LLsM：大型语言模型下的生成型语言隐写

PDF
TL;DR利用大型语言模型（LLM）的 LLsM 方案，通过微调代表语言模型的 LLM LLaMA2，并结合特定信息生成具有特定话语特征的控制性隐写文本，该方案在文本质量、统计分析、话语匹配和反隐写分析等方面优于主流基准，特别是在长篇隐写任务中具备潜在的优势。
linguistic steganographylsllsmgenerative lscovert communication
发现论文，激发创造
  • 基于大型语言模型的生成文本隐写术

    基于大型语言模型用户界面的黑盒生成式文本隐写方法（LLM-Stega）研究了关于大型语言模型的高质量文本生成模糊了人类和机器之间的边界，通过用户界面对 LLM 进行秘密通信。通过构建关键词集合和设计一种新的加密隐写映射算法，提出了一种基于拒绝抽样优化机制来保证秘密信息的准确提取和生成隐写文本丰富语义的 LLM-Stega 方法，全面的实验表明该方法优于当前最先进的方法。

    Apr, 2024

  • 重新思考 LLM 和语言隐写分析：高效检测强隐藏隐写

    为了检测复杂场景中的隐写文本，提出了一种名为 LSGC 的新型语言隐写分析方法，其中包括生成模式和分类模式，能够显著提高检测性能并减少训练时间。

    Jun, 2024

  • 利用轴词翻译和语义感知分箱编码实现语义保持的语言隐写

    本研究提出了一种新的语言隐写方法，通过在两种不同的语言之间枢纽给定文本，应用类似 GLS 的信息编码策略来嵌入秘密数据，从而实现高负载的嵌入，同时保持语义信息的一致性和抵抗语言隐写分析方面表现出卓越的性能。

    Mar, 2022

  • 基于掩码语言模型的令人沮丧的基于编辑的语言隐写术

    本文提出了一种基于掩码语言模型的语言隐写术，它克服了传统编辑方法的繁琐规则构建，并具有更高的负载能力和更好的安全性能。此方法比生成方法更易于控制安全性和负载能力之间的权衡。

    Apr, 2021

  • 基于 BERT 和一致性编码的自回归语言隐写

    本文介绍了一种基于 BERT 和一致性编码的自回归语言隐写算法，通过使用一致性编码来弥补块编码的缺点，并通过自回归方式填充掩码位置以提高文本质量，从而取得更好的嵌入负载和系统安全之间的平衡。实验结果表明，相对于相关工作，所提出的工作提高了隐写文本的流畅度，同时保证了安全性，并在一定程度上增加了嵌入负载。

    Mar, 2022

  • 使用 LSTMs 生成隐写文本

    为了保护用户隐私，我们设计了一种基于 LSTM 神经网络的语言隐写系统，可以让两个用户在不被攻击者察觉的情况下交换加密信息，并且在 Twitter 和 Enron 邮件数据集上实现了高质量的隐写文本，显著提高了加密位数。

    May, 2017

  • 检测 LLM 生成的文本的科学

    该研究对大型语言模型生成文本的检测技术现状及未来方向进行了综述，并提出了发展全面的评估指标和威胁控制方案等必要措施。关注点包括大型语言模型的开源威胁和其所产生的可能的误传信息问题。

    Feb, 2023

  • 可证明安全的生成式语言隐写术

    本文提出一种名为 ADG 的具有可证明安全性的生成语言隐写方法，该方法使用自适应动态分组的令牌递归嵌入秘密信息以提高安全性。 通过在三个公共语料库上进行广泛实验，证明了 ADG 的不可察觉性并成功生成几乎完美安全的隐写文本。

    Jun, 2021

  • 文本编码器缺乏知识：利用生成型语言模型为特定领域的语义文本相似性提供支持

    语义文本相似度问题可以作为生成文本问题来解决，生成型的大型语言模型在特定领域的语义相似度任务中表现优于基于编码器的模型，并且在需要世界知识的 STS 任务上，新收集的数据验证了这个结论。

    Sep, 2023

  • LLMGA: 基于多模态大型语言模型的生成助手

    该研究介绍了一种基于多模态大型语言模型的生成助手（LLMGA），利用大型语言模型（LLM）中内在的知识和理解能力，帮助用户进行图像生成和编辑，通过精确控制生成提示实现对稳定扩散（SD）的控制，以提供更精细、准确的内容和更直观的网络解释性，同时还提出了一个两阶段的训练方案来优化 SD 的生成结果，并引入基于参考的恢复网络来减少图像编辑过程中生成区域与保留区域之间的纹理、亮度和对比度差异。广泛的实验结果表明，LLMGA 具有很好的生成能力，并能以交互方式在更广泛的应用中发挥作用。

    Nov, 2023