misinformation detection | BriefGPT

关键词misinformation detection

搜索结果 - 39

RAEmoLLM: 基于情感信息的跨领域虚假信息检测的检索增强 LLM
该论文提出了 RAEmoLLM 框架，通过应用情感感知 LLM 构建一个含有情感嵌入的检索数据库，以实现跨领域的虚假信息检测。实验结果显示，RAEmoLLM 较零样本方法在三个数据集上均获得显著提高，其中最高分别提高了 20.69%、23.
PDF18 days ago
信息流行病管理中的早期误信息检测：一种领域适应方法
通过理论分析，我们开发了一种新的误信息检测方法，旨在解决 covariate shift 和 concept shift 问题，并通过广泛的实证评估证明了其在与先进的误信息检测方法和主要领域适应方法相比的卓越性能。
PDFa month ago
探索大型语言模型在识别误导性新闻标题中的潜力
利用大型语言模型（LLMs），本文研究了识别误导性与非误导性新闻标题的效果。研究发现模型性能存在显著差异，ChatGPT-4 在一致标注者就误导性标题达成一致意见的情况下表现出更准确的结果。文章强调了人本评估在开发 LLMs 中的重要性，旨
PDF2 months ago
ConspEmoLLM：情感为基础的大规模语言模型用于阴谋理论检测
利用情感特征和情感导向的大型语言模型，我们提出了一个名为 ConspEmoLLM 的开源系统，可用于准确检测误传信息和阴谋论，并能执行与阴谋论相关的多项任务，如理论类型分类和相关讨论的检测。我们的研究证明，ConspEmoLLM 在这些任务
PDF4 months ago
MM-Soc: 社交媒体平台上多模态大型语言模型的基准测试
社交媒体是多模态信息交流的中心，包括文本、图片和视频，这对机器来理解在线空间中的信息或情感相关的交互构成了挑战。本文介绍了 MM-Soc，一个综合性基准，旨在评估多模态大型语言模型对多模态社交媒体内容的理解能力。通过我们对四个开源多模态大型
PDF4 months ago
通过框架理论检测错误信息：基于框架元素的模型
应用深度学习和大型语言模型的创新方法，探讨信息框架对误导性信息检测的影响，以及如何应用框架理论提升检测性能。
PDF4 months ago
LEMMA: 用外部知识增强的 LVLM 增强型多模态误信息检测
利用 Large Vision Language Model（LVLM）及外部知识增强的 LEMMA 方法，大幅提升了多模态错误信息检测的准确性。
PDF4 months ago
DELL：基于 LLM 的误信息检测的生成式反应与解释
大语言模型在辨别新闻文章真实性方面，面临真实性和错误漫游的挑战，本研究提出了 DELL 来结合 LLMs，通过生成新闻反应、生成解释和合并专家等三个关键阶段，提高了误报检测的准确性。
PDF5 months ago
伪装即一切所需：评估和增强语言模型抵御伪装对抗攻击的鲁棒性
采用拟态数据集和动态修改数据的对抗训练方法可以提高 Transformer 模型在对抗性攻击下的鲁棒性，使性能下降最多为 5%。然而，模型的性能与鲁棒性之间存在一种权衡关系，进一步的研究仍然需要进行。
PDF5 months ago
比较 GPT-4 和开源语言模型在虚假信息防范中的应用
本研究从大语言模型在辨别虚假信息方面的应用出发，探讨了 GPT-4、Zephyr-7b 等模型的优劣，并指出开源模型逐渐在该任务上赶超其他模型，同时呈现出 GPT-3.5 性能不稳定的现象。研究还验证了结构化输出方法和最新版本的 GPT-4
PDF6 months ago
以敌对的令牌对抗，生成一个虚假信息检测数据集
通过使用大型语言模型（LLMs）生成语言的最新成果，本文提出了一种创建辨别虚假信息的银标准真实数据集的方法，通过在受信任的新闻文章上构建 LLMs 的提示，自动生成该文章的摘要版本，并针对性地生成具体类型的事实错误，如错误数量、错误归属等，
PDF6 months ago
南非社交媒体环境中的多模态错误信息检测
本研究旨在调查虚假信息检测模型在不同背景环境下的知识可转移性，为南非社交媒体环境提供一种多模态虚假信息检测模型，并引入南非虚假信息数据集。结果表明，将南非样本用于模型训练可以提高模型性能，并且多模态模型比文本和视觉单模态模型保留更多知识。研
PDF7 months ago
利用领域外数据对多模态假新闻检测中的领域特定提示进行优化
本研究旨在探索如何使用领域之外的数据，改进所需领域（如政治、医疗等）的虚假新闻检测，提出了一种名为 DPOD（使用领域特定提示调整的领域特定训练）的新框架，利用图像与文本相应标题的特征对齐，并结合域特定提示学习技术，在大规模基准数据集 Ne
PDF7 months ago
大型语言模型是否能理解内容和传播路径以检测虚假信息：一个实证研究
大型语言模型在虚假信息检测任务中的性能研究显示，多样的启发式方式和多个实例学习策略可以提高大型语言模型在文本和传播结构理解方面的检测性能，突出了大型语言模型检测虚假信息的潜在能力。
PDF7 months ago
情感检测在虚假信息中的应用：一项综述
社交媒体兴起以来，越来越多的网民在线上分享和阅读帖子和新闻。然而，泛滥于互联网的大量错误信息（例如虚假新闻和谣言）会对人们的生活产生负面影响，这引发了对谣言和虚假新闻检测的热门研究课题。网民在社交媒体帖子和新闻中表达的情绪和情感是帮助区分虚
PDF8 months ago
MalFake: 基于循环神经网络和 VGG-16 的马拉雅拉姆语多模态假新闻鉴别
通过多模态深度学习，在马拉雅拉姆语中进行的研究是更加有效地检测和缓解虚假信息的重要一步。
PDF8 months ago
通过上下文化的社交智慧弱监督检测误导性句子解构假新闻
在假新闻辟谣领域，我们研究了一项新的任务，即检测句子级的错误信息。我们提出了一种名为弱监督检测误导性句子（WSDMS）的模型，该模型只需要基于包的标签进行训练，但能够推断出句子级的错误信息和文章级的真实性，并辅以与新闻句子有关的社交媒体对话
PDF8 months ago
使用 LLM 预测的可信度信号和弱监督检测虚假信息
本文研究大型语言模型（LLMs）是否可以有效激发一组 18 个可信度信号，以产生每个信号的弱标签，然后使用弱监督方法来预测内容的真实性，并演示了该方法在两个虚假信息数据集上的性能优于现有的分类器，同时分析了各个可信度信号对内容真实性预测的贡
PDF10 months ago
机器学习中的信任和安全挑战：一项关于虚假信息检测的案例研究
机器学习在信任与安全问题中的应用存在研究和实践之间的脱节，以误信息检测为案例研究，我们系统化了 270 篇领域内有广泛引用的文献，并对其中的数据和代码可用性、设计失误、可重现性和普适性进行了检查。我们发现文献中存在显著的不足之处，对所声称的
PDF10 months ago
LTCR: 长文本中文谣言检测数据集
LTCR 数据集及其所提出的专注于模糊信息识别的模型在 COVID-19 期间提供了一种精准的虚假新闻检测资源，该模型能够较准确地识别中文较长且较复杂的虚假新闻，其中最高的准确率、假新闻召回率和 F1 分数均超过 90%。
PDFa year ago