本研究提出了一种用于识别社交媒体新闻帖子中视频外观和文本标题之间语义不一致的分类架构,通过使用基于文本分析、自动音频转录、语义视频分析、对象检测、命名实体一致性和面部验证的多模态融合框架来发现社交媒体帖子中的视频和标题之间的不匹配。通过训练和测试基于 4,000 个 Facebook 新闻帖子的新视频数据集,我们的多模态方法在随机标题和外观不匹配的情况下实现了 60.5%的分类准确性,而单模分别准确率不到 50%。进一步的消融研究证实了跨模态融合对于正确识别语义不一致性的必要性。
May, 2021
本文分析社交媒体中多模态环境下的虚假信息与图片 / 视频利用的挑战和机会,探讨现存技术及其不足,旨在进一步提升多模态虚假信息检测的技术。
Mar, 2022
使用半监督学习框架来解决极度类别不平衡的问题,并使用实际数据扩充少数类别,该方法在处理社交媒体中极不平衡的发布单元时比 SMOTE、ADASYN、GAN 等其他方法效果显著提高,尤其在相关的 Covid 数据上初步测试表明有效性。
Apr, 2023
本研究介绍了一个新数据集,其中包含 250 个手动注释的前列腺癌视频,用于自动检测 YouTube 视频中的错误信息。研究者们利用语言、声学、和用户参与等特征开发了分类模型,其识别错误信息的准确率可达到 74%,具有 76.5%的精确度和 73.2%的召回率。
Sep, 2019
本研究旨在发展一种深度学习网络,利用视觉和文本信息以检测社交媒体中具有反疫苗信息的帖子,通过新的语义和任务层注意机制和三个分支的模型,本研究在 Instagram 实时社交媒体数据集上的实验表明,模型可以实现 97% 以上的测试准确性。
Dec, 2020
本研究旨在探究对抗学习在虚假信息识别中的应用。通过开发自学模型并在 COSMOS 数据集上进行全面实验,我们发现采用对抗学习能够大幅减少训练数据,同时在数据量不足时显示出优于传统分类器的非匹配图像 - 文本对检测性能提高约 10% 的稳定性和可比性。
该研究探讨了利用多模式特征融合和引入外部知识来检测短视频假消息的方法,包括数据集构建,多模式谣言检测模型和对比学习技术,并在实际应用场景中发挥作用。
提出一种新颖的基于逻辑的神经模型,该模型将可解释的逻辑子句集成到目标任务的推理过程中,以检测多模态误解信息,通过在神经表示中参数化符号逻辑元素来实现学习的有效性,并引入五个元预测以使我们的框架具有多样性。
May, 2023
本研究为现有多模式虚假信息检测技术提供了一份综述,重点关注了文本、图像、语音、视频、社交媒体网络结构和时间信息等多种组合形式,并探讨了未来研究的方向和挑战,同时提出需要在相同框架内考虑虚假信息的真实性和危害程度。
Mar, 2021
提出一种基于知识引导的双一致性网络,用于检测具有多媒体内容的谣言,该网络具有两个一致性检测子网络,可同时捕获跨模态和内容 - 知识水平的不一致性,并在不同丢失视觉模态条件下实现鲁棒的多模态表示学习。该框架在三个公共实际多媒体数据集上的广泛实验表明,可以在完整和不完整的多模态条件下优于最先进的基线。
Jun, 2023