Jul, 2019

使用神经语言模型生成保留情感的虚假在线评论及其人工和机器检测

PDF
TL;DR本文研究表明，利用公开的神经语言模型，结合情感方面的分类器，所生成的假评论可以成功地欺骗人和机器，故而需要采取应对措施。
neural language modelsfake reviewsonline review systemsgpt-2bert
发现论文，激发创造
  • 保持主题：生成特定上下文的虚假餐厅评论

    通过神经机器翻译技术，本文提出并评估了一种新的方法，用于生成保持主题一致的餐厅评价，测试表明该方法具有极高的检测难度，同时本研究设计了高效的检测工具，证明虚假评论的自动检测仍然可行。

    May, 2018

  • 利用大规模语言模型的有针对性网络钓鱼攻击

    本研究旨在探讨自然语言模型如 GPT-3 和 GPT-2 生成有效钓鱼邮件的潜力，并提出了一个框架来评估其性能，我们的研究结果表明，自然语言模型生成的钓鱼邮件容易逃避垃圾邮件过滤器并且成功率高，在恶意目的下使用自然语言模型存在着重大安全和道德上的问题。

    Dec, 2022

  • 适应大语言模型时代的假新闻检测

    本文研究了大型语言模型时代中的假新闻检测问题，发现仅训练于人工编写文章的检测器在检测机器生成的假新闻方面表现良好，但反之不成立。此外，由于检测器对机器生成的文本存在偏见，需要在训练集中使用比测试集中较低比例的机器生成新闻。基于我们的发现，我们提供了一个实用的策略来开发健壮的假新闻检测器。

    Nov, 2023

  • 大型语言模型生成的文本受到假新闻检测器的偏见

    在大语言模型 (LLMs) 时代，我们发现许多现有的假新闻检测器存在显著偏见，更容易将 LLMs 生成的内容标记为假新闻，而常常误将人类撰写的假新闻分类为真实。为了解决这个问题，我们引入了一种对抗训练与 LLMs 重写的真实新闻相结合的缓解策略，从而在人类和 LLMs 生成的新闻的检测准确性方面取得了显著的改进。为了进一步推动该领域的研究，我们发布了两个全面的数据集 “GossipCop++” 和 “PolitiFact++”，将经人工验证的文章与 LLMs 生成的假新闻和真实新闻相结合。

    Sep, 2023

  • 生成具有有效性和自然性的大型语言模型对抗样本

    基于大型语言模型 (LLMs) 的语言理解和生成能力，我们提出了 LLM-Attack，旨在使用 LLMs 生成既有效又自然的对抗性示例。实验结果表明 LLM-Attack 比基线模型在人类和 GPT-4 评估中表现优异，能够生成通常有效、自然，并保留语义意义、语法正确性和人类不可察觉性的对抗性示例。

    Nov, 2023

  • 基于维基百科风格的调查问卷生成的大型语言模型：在 NLP 概念上的评估

    通过对计算机科学 - NLP 领域的 20 个选定主题进行研究和评估，本文证明了 GPT-4 相对于 GPT-3.5 在产生简明调查文章方面的成功，并揭示了 LLM 在特定领域应用中存在的问题和短板。

    Aug, 2023

  • 基于 LLM（GPT-3）的情感分析的优化技术

    本论文旨在探索基于大型预训练语言模型（如 GPT-3）的情感分析优化技术，以提高模型性能和效果，并进一步促进自然语言处理（NLP）的发展。通过介绍情感分析的重要性和传统方法的局限性，介绍了 GPT-3 和微调技术，并详细解释了它们在情感分析中的应用。实验结果表明，微调技术可以优化 GPT-3 模型，在情感分析任务中获得良好的性能。本研究对未来使用大规模语言模型进行情感分析提供了重要的参考。

    May, 2024

  • 评估大型语言模型在检测虚假新闻中的功效：一项比较分析

    研究通过对比分析，评估了不同大型和小型 LLMs 在识别和过滤假新闻内容方面的有效性，并利用 Kaggle 的假新闻数据集样本探讨了当前 LLMs 在假新闻检测方面的能力和局限性，同时讨论了提高 AI 驱动信息完整性对开发人员和决策者的影响。

    Jun, 2024

  • 机器生成文本的检测：文献综述

    研究概述了语言模型产生的虚假文本、媒体关注度、自然语言生成、社会意义等关键词，同时探索了机器产生文本的趋势和更大的社会影响。

    Jan, 2024

  • 抓住我就行：使用生成式预训练变压器的大型语言模型识别虚假医生评论

    研究人工智能技术在区分真假医生评论方面的应用，发现 GPT-3 在分类医生评论方面优于传统机器学习方法，并且 GPT-3 表现不受样本量影响。通过对真假评论的对比，研究发现虚假评论比真实评论更具临床内容、情感保守，并且语法结构更完整。

    Apr, 2023