本研究利用先进的自然语言处理技术来区分真实和人工智能生成的文本，以解决检测 DeepFake 推文的挑战。通过使用 TweepFake 数据集来训练和评估不同的机器学习模型，旨在识别有效的策略，从而提高数字通信的完整性，通过开发可靠的方法来检测人工智能生成的虚假信息，本研究对于构建一个更可信赖的在线信息环境做出了贡献。

Jun, 2024

本文通过收集 Transformer-based 工具生成的 deepfake 文本从而评估现有方法在野外环境中实际应用的能力，并通过对抗攻击研究对现有防御措施的稳健性。研究发现，将文本内容中的语义信息引入是提高 deepfake 文本检测方案鲁棒性和泛化性能的有效途径。

Oct, 2022

通过搜集人类写作和不同大型语言模型生成的假文本构建一组真实场景测验集，实验结果显示在这种情况下深伪文本检测面临着严峻挑战，尤其是面对各种领域的无来源文本时。

May, 2023

使用预训练的生成模型，比如 GPT-3、GPT-NeoX 或 OPT，将人工生成的文本与机器生成的文本相区分的重要性逐渐增加。我们通过改善五个不同的语言模型来生成合成推文，并发现浅层学习分类算法（如朴素贝叶斯）在检测准确率方面达到了 0.6 至 0.8 之间的水平。与基于人类的检测相比，浅层学习分类器在使用较高温度值进行文本生成时的检测准确率较低。人类更注重语言可接受性，而较低温度值下的可接受性更高。相比之下，基于转换器的分类器具有 0.9 及以上的准确度。我们发现使用强化学习方法改进生成模型可以成功逃避 BERT-based 分类器，使其检测准确率达到 0.15 或更低。

Oct, 2023

利用启发式方法，本研究发现 1,140 个通过 Twitter botnet 使用 ChatGPT 生成人类风格内容的虚假个人的密集集群，并通过人工注释验证。ChatGPT 生成的内容宣传可疑网站并传播有害评论。尽管 AI botnet 中的账户可以通过其协调模式检测到，但目前最先进的大语言模型内容分类器无法区分它们和真实用户账户。这些发现强调了 AI 助推社交机器人带来的威胁。

Jul, 2023

我们的研究重点是辨别大型语言模型生成的文本与人类生成的文本之间的关键挑战，这在各种应用中具有重要意义。通过评估我们的模型在多个数据集上的性能，包括 Twitter 情感、足球评论、项目古腾堡文库、PubMedQA 和 SQuAD，我们提供了支持此类模型可行性的证据。这些数据集在复杂约束下进行了采样，涵盖了各种可能性，为未来研究奠定了基础。我们对 GPT-3.5-Turbo 与 SVM、RoBERTa-base 和 RoBERTa-large 等各种检测器进行了评估，基于研究结果，结果主要与句子的序列长度有关。

Nov, 2023

使用 Twitter 数据集检验了四个大型语言模型的生成能力，发现领域内的精细调整和去除审查可显著降低自动检测方法的效果，揭示了细调和内容监管对机器生成的文本检测的影响。

Jun, 2024

该研究提出了使用两个深度学习算法（LSTM 和 MLP）的新 deepfake 检测模型，并使用 140k 真实和虚假面孔数据集评估其在检测 deepfake 图像中的表现，最高可达 74.7% 的准确率。

Apr, 2023

本文研究了自然语言生成技术对安全性和隐私的威胁，通过对技能水平和协作等因素的调查，研究了人类如何辨别深度伪造文本，发现专业人士及同步协作组较非专业人士及异步组在识别深度伪造文本方面表现更好，分析深度伪造文本的连贯与一致性是有用的。该工作可为未来改进深度伪造文本协作人类检测的工具 / 框架的设计提供参考。

Apr, 2023

该论文提出了一种基于深度神经网络的机器人检测方法，通过使用元数据并将其作为辅助输入，CNN 处理推文文本。同时，作者们提出了一种基于合成少数过抽样的技术，从少量已标记数据（大约 3000 个 sophisticated Twitter bots 的样例）生成适合深度 CNN 训练的大型标记数据集。作者还在账户级别的机器人检测中应用了相同的架构，并在保证小型和可解释特征，以及最小训练数据的情况下，实现了几乎完美的分类准确度。从仅一个推文中，我们的体系结构就可以实现高分类精度（AUC > 96%）将机器人与人类分开。

Feb, 2018