Feb, 2024

生成型 AI 代理间的秘密勾结

PDF
TL;DR最近大型语言模型的能力提升为团队之间的生成型人工智能代理解决联合任务的应用打开了大门，而这也引发了隐私和安全方面的挑战，涉及未经授权的信息共享或其他不必要的代理协调形式。本文通过借鉴人工智能和安全领域的相关概念，全面地形式化了生成型人工智能代理系统中秘密勾结的问题。我们研究了使用隐写术的动机，并提出了各种缓解措施。我们的研究得出了一个模型评估框架，系统地测试了各种形式的秘密勾结所需的能力。我们提供了在各种当代大型语言模型上进行的广泛实证结果。尽管当前模型的隐写能力仍然有限，但 GPT-4 显示出了一种能力跳跃，表明需要持续监测隐写前沿模型的能力。最后，我们提出了一个全面的研究计划，以缓解未来生成型人工智能模型之间勾结的风险。
large language modelsgenerative ai agentssecret collusionsteganographymitigation measures
发现论文，激发创造
  • 基于大型语言模型的生成文本隐写术

    基于大型语言模型用户界面的黑盒生成式文本隐写方法（LLM-Stega）研究了关于大型语言模型的高质量文本生成模糊了人类和机器之间的边界，通过用户界面对 LLM 进行秘密通信。通过构建关键词集合和设计一种新的加密隐写映射算法，提出了一种基于拒绝抽样优化机制来保证秘密信息的准确提取和生成隐写文本丰富语义的 LLM-Stega 方法，全面的实验表明该方法优于当前最先进的方法。

    Apr, 2024

  • 可证明安全的生成式语言隐写术

    本文提出一种名为 ADG 的具有可证明安全性的生成语言隐写方法，该方法使用自适应动态分组的令牌递归嵌入秘密信息以提高安全性。 通过在三个公共语料库上进行广泛实验，证明了 ADG 的不可察觉性并成功生成几乎完美安全的隐写文本。

    Jun, 2021

  • 提升数字安全：融合密码学与隐写术

    应用人工智能（AI）和深度学习（DL）中的生成对抗网络（GANs）优化传统隐写术方法，通过将加密数据嵌入到另一个媒介中，保护通信免受窥探，并提高对检测的防护，从而维护信息的隐私和完整性，解决当前开放数字通信时代数据安全的核心挑战，并为信息安全领域带来可能的颠覆性改变。

    Apr, 2024

  • 鉴定和减轻生成式人工智能的安全风险

    生成式人工智能技术（GenAI）可能被用于积极和消极目的，这篇论文讨论了 GenAI 所带来的双重用途困境，并提出了针对此问题的短期和长期目标，旨在引发学术界对此重要主题的深入讨论。

    Aug, 2023

  • 神经语言隐写术

    利用神经语言模型和算术编码的隐写术技术，生成真实的语言覆盖句，并与语言模型分布相匹配，同时保护安全性。

    Sep, 2019

  • 大型语言模型的算法勾结

    通过对大型语言模型（LLMs）以及具体的 GPT-4 算法进行定价任务实验，我们发现 LLM 算法定价代理在垄断市场中自主勾结，对消费者造成不利影响，并且 LLM 指令中表面无关短语的变化可能增加勾结行为，这些结果同样适用于拍卖设置，凸显了需要针对算法定价实施反垄断法规的必要性，揭示了基于 LLM 的定价代理面临的独特监管挑战。

    Mar, 2024

  • 多智能体协作：发挥智能 LLM 代理的力量

    本文提出了一种通过多智能体系统来增强大型语言模型（LLMs）能力的新框架，并通过人工智能领域的案例研究展示了这一框架的实用性和多样性。

    Jun, 2023

  • LLsM：大型语言模型下的生成型语言隐写

    利用大型语言模型（LLM）的 LLsM 方案，通过微调代表语言模型的 LLM LLaMA2，并结合特定信息生成具有特定话语特征的控制性隐写文本，该方案在文本质量、统计分析、话语匹配和反隐写分析等方面优于主流基准，特别是在长篇隐写任务中具备潜在的优势。

    Jan, 2024

  • 自然语言系统中的信息隐藏

    本文探讨了在自然语言系统中执行信息隐藏作为实现数据安全和保密的一种手段的自然语言隐写术（NLS）方法，提出了应对隐写文字质量等挑战的改进，以便构建更具弹性的 NLS 模型，并实现自然语言整合安全性的目标。

    Mar, 2022

  • 零封装生成型语言隐写术

    本研究提出了一种基于上下文学习的零样本方法，用于语言隐藏，以更好地实现感知和统计上的不可察觉性，并设计了几个新的度量标准和可复现的语言评估方法来衡量隐藏文本的隐晦性。实验结果表明，该方法产生了比其他任何方法更多的无罪和可理解的隐藏文本。

    Mar, 2024