Jun, 2024

探测人工智能生成的文本：当前方法中影响可检测性的因素

PDF
TL;DR大语言模型（LLM）已经发展到一个即使是人类也很难分辨文本是否由其他人类或计算机生成的程度。本文概述了现有的 AI 生成文本（AIGT）检测方法，包括水印、统计和风格分析以及机器学习分类，并提供了有关该任务的现有数据集的信息。总结研究结果，我们旨在揭示在不同情境下决定 AIGT 文本 “可检测性” 的突出因素，并就解决这一重大技术和社会挑战提出实际建议。
发现论文，激发创造
  • 反向图灵测试 CT^2: 人工智能生成文本检测并不像您想象的那么简单 -- 引入人工智能检测能力指数

    通过引入具有提出反对图灵测试（CT^2）技术的技术，以提供对现有 AI 生成文本检测技术的鲁棒性的全面评估，本论文无疑强调了拟议的 AI 生成文本检测方法的脆弱性，并通过实证结果表明，较大的 LLM 相较较小的 LLM 不易被检测，从而提出了 AI 可检测性指数（ADI）。我们坚信 ADI 作为一个工具，对更广泛的 NLP 社群具有重要价值，并有潜力成为 AI 相关政策制定的评估标准。

    Oct, 2023

  • 论人工智能生成的文本检测的可能性

    该文针对如何区分机器生成文本和人类生成文本的问题，提出了基于信息理论的准确度量方法，讨论并设计出更优秀的文本检测器，并给出了样本复杂度的理论上限。

    Apr, 2023

  • 增强文本真实性：一种新颖的混合方法用于 AI 生成文本检测

    本文提出了一种新颖的混合方法，将传统的 TF-IDF 技术与先进的机器学习模型相结合，包括贝叶斯分类器、随机梯度下降（SGD）、分类梯度提升（CatBoost）和 12 个 Deberta-v3-large 模型的实例。通过在全面的数据集上进行广泛的实验，我们证明了我们提出的方法在准确区分人工生成和 AI 生成文本方面的有效性。与现有方法相比，我们的方法取得了更好的性能。这项研究为 AI 生成文本检测技术的进展做出了贡献，并为应对 AI 生成内容带来的挑战开发出稳健的解决方案奠定了基础。

    Jun, 2024

  • 模仿游戏：在大型语言模型时代检测人类和 AI 生成的文本

    通过对人类写作文本和基于大型语言模型的生成文本进行比较研究，该论文展示了在不同文体中对于人类文本和生成文本进行分类的机器学习模型的效果，同时指出在故事写作方面识别生成文本的困难性，为未来在人工智能文本识别方面提供了启示和研究数据集。

    Jul, 2023

  • 探讨 AI 生成文本检测的可能性与不可能性：一项调查

    通过综述当前研究的展望和限制，本文对大型语言模型的滥用、人工智能生成文本的检测框架以及相关的开放问题进行了全面的讨论和概述。

    Oct, 2023

  • AI 笔的解密：检测 AI 生成文本的技术和挑战

    大型语言模型（LLMs）在自然语言生成（NLG）领域引发了一场革命，展示出生成类似人类文本的惊人能力。然而，它们的广泛使用引入了挑战，必须经过深入研究、伦理审查和负责任的实践来加以解决。本研究深入探讨了这些挑战，探索了现有的缓解策略，尤其强调将 AI 生成的文本作为最终解决方案。此外，我们从理论角度评估了检测的可行性，并提出了解决当前领域限制的新的研究方向。

    Mar, 2024

  • AI 生成文本能否被可靠地检测出来？

    本篇研究展示了当前语言模型（LLMs）产生的文本检测器的可靠性不足，并提出了模仿攻击和伪造攻击等问题，强调了在使用 AI 生成文本时的伦理和可靠性问题。

    Mar, 2023

  • AI 生成文本鉴定系统综述：检测、归因和描述

    本文回顾了 AI 生成文本法医学系统的现有研究工作，通过引入细致的分类体系，重点讨论检测、归因和表征三个主要方面，以实现对 AI 生成文本的实际理解，并探讨了在 AI 时代中法医系统的进展挑战和未来发展方向。

    Mar, 2024

  • AI 生成文本检测工具测试

    本研究针对学术环境中使用人工智能生成文本的潜在风险进行研究，发现现有的人工智能生成文本检测工具准确性和可靠性都有问题，并且在检测时存在偏向于将 AI 生成文本归类为人类写作。同时，内容混淆技术也会显著降低检测工具的性能。

    Jun, 2023

  • ChatGPT 检测：探究 ChatGPT 生成文本的现状概述

    用于区分 ChatGPT 生成文本和人类生成文本的当前方法的综述，包括构建用于检测 ChatGPT 生成文本的不同数据集，采用的各种方法，对人类与 ChatGPT 生成文本特征的定性分析，并最终总结研究结果为一般性见解。

    Sep, 2023