Aug, 2024

LLM-DetectAIve：用于细粒度机器生成文本检测的工具

HTML
PDF
TL;DR本研究解决了在教育和学术领域中难以区分人类创作文本和机器生成文本的问题。提出的LLM-DetectAIve系统通过引入四类文本分类，提供了对文本创作过程中大语言模型干预程度的深入洞察。实验结果表明，该工具能够有效识别文本的作者身份，促进教育和学术诚信的提升。
发现论文，激发创造
  • 检测 LLM 生成的文本的科学

    该研究对大型语言模型生成文本的检测技术现状及未来方向进行了综述，并提出了发展全面的评估指标和威胁控制方案等必要措施。关注点包括大型语言模型的开源威胁和其所产生的可能的误传信息问题。

    Feb, 2023

  • LLMDet: 一种大型语言模型检测工具

    本文提出了一种高效、安全、可扩展的检测工具 LLMDet，通过利用预训练获得的模型下一个令牌概率的先验信息，计算文本的代理困惑度，并使用通过代理困惑度测量的模型的自身水印信息来检测文本的来源；同时，在识别人类撰写的文本方面实现了97.97%的识别准确率，并在识别生成语言模型方面显示出了很好的结果。

    May, 2023

  • DetectLLM：利用对数秩信息进行零样本检测机器生成的文本

    本文介绍了两种利用对数排名信息进行无样本检测的新型机器生成文本检测方法，分别为快速高效的DetectLLM-LRR和更加精确但需要扰动的DetectLLM-NPR，实验证明两种方法分别优于现有技术 3.9 和 1.75 AUROC 点的绝对值。

    May, 2023

  • 检测在计算机教育中生成的LLM文本：一个ChatGPT案例的比较研究

    本文评估了8个公开可用的大型语言模型生成文本检测器的准确性，假阳性和弹性，并发现CopyLeaks是最准确的大型语言模型生成文本检测器，GPTKit是减少假阳性的最佳大型语言模型生成文本检测器，而GLTR是最弹性的大型语言模型生成文本检测器。

    Jul, 2023

  • 从文本到来源：大型语言模型生成内容的检测结果

    通过探索跨模型检测、模型归因以及分类器的效果与模型规模之间的关系，该研究在大型语言模型的使用中提供了宝贵的见解。

    Sep, 2023

  • 反向图灵测试 CT^2: 人工智能生成文本检测并不像您想象的那么简单 -- 引入人工智能检测能力指数

    通过引入具有提出反对图灵测试（CT^2）技术的技术，以提供对现有AI生成文本检测技术的鲁棒性的全面评估，本论文无疑强调了拟议的AI生成文本检测方法的脆弱性，并通过实证结果表明，较大的LLM相较较小的LLM不易被检测，从而提出了AI可检测性指数（ADI）。我们坚信ADI作为一个工具，对更广泛的NLP社群具有重要价值，并有潜力成为AI相关政策制定的评估标准。

    Oct, 2023

  • 基于LLM的文本检测调查：必要性、方法和未来方向

    大语言模型生成的文本检测是一项关键任务，需要开发检测器来区分其文本是否由大语言模型生成，并呼吁加强相关研究以推进负责任的人工智能实现。

    Oct, 2023

  • 探讨AI生成文本检测的可能性与不可能性：一项调查

    通过综述当前研究的展望和限制，本文对大型语言模型的滥用、人工智能生成文本的检测框架以及相关的开放问题进行了全面的讨论和概述。

    Oct, 2023

  • 解读文本真实性：通过大语言语义的普遍策略来检测人类与机器生成的文本

    通过引入一个新的系统T5LLMCipher，结合预训练的T5编码器和LLM嵌入子聚类，我们在9个不同生成器和领域中评估了我们的方法，并发现与现有方法相比，我们的方法在看不见的生成器和领域中对机器生成的文本的F1得分平均提高了19.6％，正确属性文本的生成器的准确率达到93.6％。

    Jan, 2024

  • 检测机器生成文本：不仅仅是“人工智能 vs 人类”和解释性复杂

    本文提出一种新的三元文本分类方案，包括“未决”类别，研究了如何使检测结果更易理解，重点在于为用户提供清晰明了的解释。通过构建新的数据集，使用先进的检测方法和最新的LLMs，该研究发现“未决”类别对于文本检测的可解释性至关重要，并提出了未来改进解释能力的检测系统的指导方针。

    Jun, 2024