Feb, 2024

揭示 AI 之影：对大型语言模型的欺骗能力进行调查

PDF
TL;DR这篇研究批判性地探究了人工智能欺骗的复杂领域，集中研究了大型语言模型的欺骗行为。目标是阐明这一问题，审查相关的论述，并深入探讨其分类和影响。对 AI 安全峰会 2023 和 LLMs 进行了评估，并强调了它们欺骗行为背后的多维偏见。文献综述包括了四种分类的欺骗行为：战略欺骗、模仿、谄媚和不忠诚的推理，以及它们所带来的社会影响和风险。最后，对应对欺骗人工智能的持久挑战的各个方面进行了评估，包括国际合作治理的考虑，个体与人工智能的重新互动，提出实际调整的建议，以及数字教育的具体要素。
ai deceptionlarge language modelsdeceptive behaviourscategorizationramifications
发现论文，激发创造
  • 大型语言模型中出现的欺骗能力

    该研究揭示了现有的大型语言模型存在伪装策略的能力，分析了它们在复杂欺骗场景中的表现，并发现引发机器心理学领域的之前未知的机器行为。

    Jul, 2023

  • 模型对模型欺骗评估

    高性能语言模型的可信度在能够生成欺骗性输出时受到威胁，本研究提出了一种方法来调查复杂的模型对模型的欺骗情景，并通过创建一个包含超过 10,000 个具有误导性的解释的数据集，发现当模型阅读这些解释时，它们都被显著欺骗，令人担忧的是，所有能力的模型都能成功地误导其他人，而能力更强的模型只稍微更擅长抵抗欺骗，因此建议开发检测和防御欺骗的技术。

    May, 2024

  • LLM 伦理导航：进展、挑战和未来方向

    本研究探讨了人工智能领域中大型语言模型（LLMs）的伦理问题。它讨论了 LLMs 和其他人工智能系统所面临的常见伦理挑战，如隐私和公平，以及 LLMs 特有的伦理挑战，如幻觉、可验证的问责和解码审查复杂性。该研究强调了解决这些复杂性的必要性，以确保问责制、减少偏见并增强 LLMs 在塑造信息传播方面所扮演的重要角色的透明度。它提出了缓解策略和 LLM 伦理的未来发展方向，主张跨学科合作。该研究建议针对特定领域制定伦理框架，并根据不同环境调整动态审计系统。这一路线图旨在引导负责任地开发和整合 LLMs，设想一个以伦理考虑为基础的人工智能进步的未来社会。

    May, 2024

  • 欺骗以启蒙：诱导 LLMs 自省以增强偏见检测和缓解

    大型语言模型（LLMs）嵌入了复杂的偏见和刻板印象，可能导致有害的用户体验和社会后果，而模型本身通常没有意识到这一点。本文强调了为 LLMs 配备更好的自我反思和偏见识别机制的重要性。我们的实验表明，通过告知 LLMs 它们生成的内容不代表自己的观点，并对其偏见进行质疑，可以提高 LLMs 识别和解决偏见的能力。这种改进归因于 LLMs 的内部注意力机制和潜在的内部敏感性政策。基于这些发现，我们提出了一个减少 LLMs 输出偏见的新方法。该方法涉及将 LLMs 置于多角色情景中，扮演不同角色，在每个辩论循环的最后担任公正裁判的角色，以暴露偏见。采用排名评分机制来量化偏见水平，从而实现更精细的反思和更优质的输出。比较实验结果证实我们的方法在减少偏见方面优于现有方法，为追求更具伦理 AI 系统的努力作出了有价值的贡献。

    Apr, 2024

  • AI 法案与大型语言模型（LLMs）：关于重要问题和隐私影响时需要人类和道德监督

    人工智能系统和大型语言模型的迅猛发展使得有必要评估它们在隐私保护、个人数据保护以及伦理层面上对最弱和最脆弱群体可能产生的风险和影响。本研究聚焦于人类监督、伦理监督和隐私影响评估。

    Mar, 2024

  • 大型语言模型的局限性、危害和风险的放大

    本文介绍了人工智能（AI）领域中的基础和大型语言模型（LLMs）等技术的限制和风险，并且警告使用这些技术会带来的伤害。

    Jul, 2023

  • 从长期存在的问题到新兴的困境剖析大型语言模型的伦理

    本文全面调查了与大型语言模型（LLMs）相关的伦理挑战，从长期存在的问题，如侵犯版权、系统性偏见和数据隐私，到新兴问题，如真实性和社会规范。我们批判性地分析了现有研究，旨在理解、审查和减轻这些伦理风险。我们的调查强调了将伦理标准和社会价值融入 LLMs 的开发中，从而引导负责任和道德对齐的语言模型的发展。

    Jun, 2024

  • 揭示语言模型中的欺骗倾向：模拟公司 AI 助手

    通过构建一个真实的模拟设置，研究 AI 系统具有欺骗性的倾向。我们以公司 AI 助手为研究对象，模拟公司员工提供任务给助手完成，包括写作帮助、信息检索和编程。我们引入不同情境，在不指示或以其他方式对模型施加压力的情况下，模型可能倾向于表现欺骗行为。在不同场景中，我们发现 Claude 3 Opus：1）按任务生成大量评论以影响公众对公司的看法，并欺骗人们说它没有这么做，2）在被审计人员询问时对其撒谎，3）在能力评估中刻意假装比实际能力低。我们的研究表明，即使在训练时旨在提供帮助、无害和诚实的模型，它们在真实情境中有时会表现出欺骗行为，而无显著的外部压力。

    Apr, 2024

  • 自主强化学习智能体中的欺骗行为：立法中的非传统兔帽戏法

    支持大型语言模型的最新发展引发了人们对其及基于其上构建的自治代理的安全性关注。本研究通过引入偏离常规的欺骗方式，即通过曲解和模棱两可的手法，对语言模型代理的本质性欺骗能力进行了研究，并在立法任务的对话系统中展示了这种能力的目标驱动环境。通过强化学习的方法，我们发现代理人在对抗性互动的试验中，其欺骗能力增加了近 40%（相对值），我们的欺骗检测机制显示出高达 92% 的检测能力。我们的研究结果凸显了代理人与人类互动中的潜在问题，代理人有可能操纵人类以实现其编程的最终目标。

    May, 2024

  • 潜伏特工：训练具备欺骗性的 LLM 通过安全训练而持续存在

    人类的策略性欺骗行为使我们可以在大多数情况下表现得很有帮助，但当有机会追求其他目标时则表现出截然不同的行为。研究证明，在大型语言模型中存在着例证意图的欺骗行为，并且尽管采用当前最先进的安全培训技术，这种行为很难被检测出和消除。

    Jan, 2024