Aug, 2023

检测人工智能在在线问卷中的篡改

PDF
TL;DR在线问卷调查、众包平台、人工智能、数据质量和自动 AI 检测系统是研究论文的关键词。该研究测试了人工智能生成的文本是否能被人类和自动化 AI 检测系统发现，结果表明人类的正确识别率还不足以确保满意的数据质量，而自动化 AI 检测系统目前是完全不可用的。如果人工智能在提交回应方面过于普及，检测欺诈性提交的成本将超过在线问卷的益处，个别的注意力检查将不再足以确保良好的数据质量，这个问题只能由众包平台进行系统性解决，但众包平台不能依赖自动 AI 检测系统，他们如何确保为付费客户提供数据质量尚不清楚。
online questionnairescrowd-sourcing platformsartificial intelligencedata qualityautomatic ai detection systems
发现论文，激发创造
  • AI 生成文本能否被可靠地检测出来？

    本篇研究展示了当前语言模型（LLMs）产生的文本检测器的可靠性不足，并提出了模仿攻击和伪造攻击等问题，强调了在使用 AI 生成文本时的伦理和可靠性问题。

    Mar, 2023

  • 探讨 AI 生成文本检测的可能性与不可能性：一项调查

    通过综述当前研究的展望和限制，本文对大型语言模型的滥用、人工智能生成文本的检测框架以及相关的开放问题进行了全面的讨论和概述。

    Oct, 2023

  • 探测人工智能生成的文本：当前方法中影响可检测性的因素

    大语言模型（LLM）已经发展到一个即使是人类也很难分辨文本是否由其他人类或计算机生成的程度。本文概述了现有的 AI 生成文本（AIGT）检测方法，包括水印、统计和风格分析以及机器学习分类，并提供了有关该任务的现有数据集的信息。总结研究结果，我们旨在揭示在不同情境下决定 AIGT 文本 “可检测性” 的突出因素，并就解决这一重大技术和社会挑战提出实际建议。

    Jun, 2024

  • AI 生成文本检测工具测试

    本研究针对学术环境中使用人工智能生成文本的潜在风险进行研究，发现现有的人工智能生成文本检测工具准确性和可靠性都有问题，并且在检测时存在偏向于将 AI 生成文本归类为人类写作。同时，内容混淆技术也会显著降低检测工具的性能。

    Jun, 2023

  • 人工人工人工智能：众包工作者广泛使用大型语言模型进行文本生成任务

    本文研究 LLMs 对众包工人的影响，通过对在 Amazon Mechanical Turk 上运行的一个摘要任务，发现 33-46% 的众包工人使用了 LLMs，因此需要找到新的方法确保数据来源于人类本身。

    Jun, 2023

  • 人性化机器生成内容：通过对抗性攻击规避 AI 文本检测

    在本文中，我们提出了一个针对更广泛的对抗性攻击类别的框架，旨在对机器生成的内容进行微小扰动以逃避检测，通过对动态场景中的对抗性学习来评估当前检测模型对这种攻击的鲁棒性的潜力提升。实证结果发现，现有的检测模型可以在仅 10 秒内受到破坏，将机器生成的文本误分类为人类撰写的内容。尽管观察到模型鲁棒性方面的一些改进，但实际应用仍面临重大挑战，这些发现为 AI 文本检测器的未来发展提供了启示，强调了对更准确和鲁棒的检测方法的需求。

    Apr, 2024

  • AI 生成文本鉴定系统综述：检测、归因和描述

    本文回顾了 AI 生成文本法医学系统的现有研究工作，通过引入细致的分类体系，重点讨论检测、归因和表征三个主要方面，以实现对 AI 生成文本的实际理解，并探讨了在 AI 时代中法医系统的进展挑战和未来发展方向。

    Mar, 2024

  • 使用单一问题检测 ChatGPT 冒充者：机器人还是人？

    研究了如何检测聊天机器人，提出了一种名为 FLAIR 的框架，使用单次问题和回答来识别在线对话中的聊天机器人。

    May, 2023

  • 利用人工智能和大型语言模型评估实验中学生的错误：与人类评分员的比较研究

    使用大型语言模型（LLMs）探索错误检测在探究式学习中的应用，并解决学生实验协议等复杂、不完整、甚至矛盾和多样化的数据中的逻辑错误识别的困难。

    Aug, 2023

  • DUPE: 通过 Prompt Engineering 检测 Deepfake 文本的方法

    评估了三种不同的 AI 文本检测器，发现水印技术存在较高的误报率，ZeroGPT 技术误报和漏报率都较高，并通过使用 ChatGPT 3.5 来将原始的 AI 生成文本改写，有效地绕过了这些检测器的误报率和漏报率。

    Apr, 2024