本文介绍了一种基于深度神经网络的技术框架，用于在 Twitter 上连续纵向地识别和分析选举相关的对话，其模型可以将选举相关的推文检测的 F 分数为 0.92，并将这些推文分类为 22 个主题，其 F 分数为 0.90。

May, 2016

该论文旨在通过提供简单的标记，帮助个人区分人类撰写的文章和由 LLMs 生成的文章，从而增强对 LLMs 生成的假新闻的怀疑。研究中引入并详细审查 ESAS 排名最高的词汇，以辅助个人加强对 LLMs 生成假新闻的怀疑。

Jun, 2024

利用启发式方法，本研究发现 1,140 个通过 Twitter botnet 使用 ChatGPT 生成人类风格内容的虚假个人的密集集群，并通过人工注释验证。ChatGPT 生成的内容宣传可疑网站并传播有害评论。尽管 AI botnet 中的账户可以通过其协调模式检测到，但目前最先进的大语言模型内容分类器无法区分它们和真实用户账户。这些发现强调了 AI 助推社交机器人带来的威胁。

Jul, 2023

在 Mastodon 社交媒体平台上，我们使用了 “LLMs Among Us” 实验框架构建了 10 个角色来研究大型语言模型的潜力和威胁，发现参与者只有 42% 的准确率能识别出其他用户的真实性。此外，我们还发现角色的选择对于人的感知影响比主流大型语言模型的选择更大。

Feb, 2024

本文提出了一种集成神经模型以检测大型语言模型生成的语言，并对模型进行归因的方法。

Sep, 2023

本文提出一种使用风格学特征来辅助检测 AI 生成的推文的新算法，探讨利用预训练语言模型生成相似于人类撰写的文本的潜在威胁；针对推文信息量小的特点，提出两个任务：区分人工和 AI 生成的推文，以及检测 AI 何时在 Twitter 时间线上开始生成推文；实验证明风格学特征对于 AI 生成推文检测器具有有效的辅助作用。

Mar, 2023

研究表明，利用大型语言模型可以高准确度地区分人工智能生成的文本和人类编写的文本，尤其在语义方面会更加有帮助，而句法方面还有改进的空间。

Feb, 2024

人工智能的生成性进展使真实和机器生成的内容之间的界限变得模糊，尤其在社交媒体上使用 AI 生成的图片来伪造个人资料。我们进行了首次大规模调查，研究发现 Twitter 上的 AI 生成头像占总头像数量的 0.052％。我们对这些账户及其推文内容进行了全面分析，并揭示了协同不真实行为的模式。研究结果还揭示了垃圾邮件和政治放大战略等多种动机。这一研究结果再次证实了需要制定有效的检测和缓解策略来应对未来生成性人工智能可能带来的负面影响。

Apr, 2024

通过对人类写作文本和基于大型语言模型的生成文本进行比较研究，该论文展示了在不同文体中对于人类文本和生成文本进行分类的机器学习模型的效果，同时指出在故事写作方面识别生成文本的困难性，为未来在人工智能文本识别方面提供了启示和研究数据集。

Jul, 2023

大语言模型（LLM）的出现具有革命性的影响。然而，像 ChatGPT 这样的 LLM 是否可能被滥用来生成误导信息，对在线安全和公众信任构成了严重关注。我们从检测难度的角度提出了一个基本的研究问题：LLM 生成的误导信息是否比人类编写的误导信息具有更大的危害性？通过我们的实证研究，我们发现相比于具有相同语义的人类编写的误导信息，LLM 生成的误导信息对于人类和检测器来说更难以检测，这表明它可能具有更具欺骗性的风格，并有可能造成更大的伤害。我们还讨论了我们发现对抗 LLM 时的误导信息在信息时代和相应对策的影响。

Sep, 2023