该研究论文介绍了一种用于跨媒体实体一致性验证的新方法，并应用于真实世界新闻中，旨在支持人类评估多媒体信息的整体消息，特别是在偏见或情感方面。该方法通过使用最先进的方法和几种不同措施计算跨媒体相似性，其中包括使用命名实体链接从新闻文本中提取人物，位置和事件。该论文的数据集和代码均公开，并展示了该方法在不同语言，主题和领域的两个新数据集上的可行性。

Mar, 2020

文章介绍了一种用于检测假新闻的多粒度多模态融合网络模型，并将模型性能与现有方法进行了比较。

Apr, 2023

本文通过分析图像、文本和多模型检测虚假新闻，特别是使用变形金刚模型的文本和多模型对索赔和阴谋检测任务的作用，确定图像在虚假新闻检测中的作用。

Mar, 2021

本研究提出了一种用于识别社交媒体新闻帖子中视频外观和文本标题之间语义不一致的分类架构，通过使用基于文本分析、自动音频转录、语义视频分析、对象检测、命名实体一致性和面部验证的多模态融合框架来发现社交媒体帖子中的视频和标题之间的不匹配。通过训练和测试基于 4,000 个 Facebook 新闻帖子的新视频数据集，我们的多模态方法在随机标题和外观不匹配的情况下实现了 60.5％的分类准确性，而单模分别准确率不到 50％。进一步的消融研究证实了跨模态融合对于正确识别语义不一致性的必要性。

May, 2021

本文提出了三种基于多模态 transformer 的假新闻检测模型，并通过深入分析操纵数据的方法来探索这些模型在社交媒体上实际使用情况下的性能。研究发现，这些系统在面临被操纵的数据时会出现显著性能下降。为了减少偏差并改善模型的推广能力，本文建议使用数据增强技术对社交媒体上的假新闻检测进行更有意义的实验。所提出的数据增强技术使得模型的泛化能力得到了提高，并获得了最先进的效果。

May, 2023

本文针对多媒体假新闻检测方法鲁棒性差的问题，提出了一种系统的鲁棒性评估方法，并通过 5 种对抗攻击和 2 种后门攻击实验验证，结果表明通过防御机制可以提高多模式检测器的鲁棒性。

Jun, 2022

本篇研究提出了一个基于相似性感知的多模态提示学习框架 (SAMPLE) 用于检测假新闻，通过三种提示模板和一种软性描述器分析，并采用自适应融合方法来减少因不相关的交叉模态特征注入噪音，实验表明相较于先前方法，SAMPLE 在两个基准多模态数据集中的 F1 值和准确性均有所提高。另外，SAMPLE 不论在少量数据或是数据丰富的情况下都优于其他方法。

Apr, 2023

研究了多模态融合技术在多模态命名实体识别任务中的应用，通过分析不同技巧的融合效果，发现添加图片信息不总是有益的，并探究了使用字幕丰富上下文的作用。在三个社交平台数据集上的实验揭示了现有多模态模型的瓶颈，以及使用字幕的益处。

Oct, 2020

本文提出了一种名为 Multi-domain Visual Neural Network (MVNN) 的框架，该框架将频率和像素域的视觉信息融合起来用于检测假新闻图像。在真实数据集上的实验表明，MVNN 比现有方法至少提高了 9.2% 的准确度，并可帮助提高超过 5.2% 的多模态假新闻检测性能。

Aug, 2019

本文通过系统研究最新扩散模型生成的虚假图片的真实性，分析其图像的低层特征和用作种子的文本说明的语义作用，并提供了一个新的包含约 600k 张图像的数据集 COCOFake。

Apr, 2023