AAAIJan, 2023

基于证据检索技术和 Transformer 编码架构的多模式事实核查系统 Factify2

PDF
TL;DR本文描述了我们在多模态事实检查挑战中的提交，包括探索的证据检索和选择技术，预训练的跨模态和单模型，以及基于 Transformer Encoder 体系结构的跨模态准确性模型等内容，并在 Factify 2 数据集上进行的探索性分析揭示了突出的多模态模式和假设。最终系统，实现了在任务一的加权平均值为 0.79 的性能和排名第三的成绩。
multi-modal fact checkingevidence retrievaltransformer encoderveracity detectionpre-trained models
发现论文，激发创造
  • 2022 Logically 论文：多模式事实验证

    本文描述了我们在 2022 AAAI 多模态事实验证（Factify）挑战上的参与系统。 我们处理该挑战为多模态蕴含任务，作为多类分类，并提出并探索了两种基线方法，包括集成模型和多模态注意力网络。 我们在此工作中测试了不同 SoTA 预训练变换器和视觉模型。 最佳模型在排行榜中排名第一， 平均 F - 度量值为 0.77。 最后，我们强调了未来研究的任务和多模态数据集的挑战。

    Dec, 2021

  • 基于 Transformer 和迁移学习的多模态事实核查：UofA-Truth @ Factify 2022

    本文介绍了我们的方法，针对多模式信息传播中的虚假新闻进行了自动化的网络谣言 / 虚假信息检测，最终我们在 De-Factify@AAAI2022 FACTIFY 机器学习竞赛中获得了第四名，F1-score 为 74.807%。

    Jan, 2022

  • 使用特征表示的参数高效多模态事实验证基于大型基础模型的三重检查团队 Factify 2

    本文介绍了 Pre-CoFactv2 框架，使用多模态、多类型融合方法以及特征表示来实现文本与图像的多模态事实验证，并使用统一的集成方法提高模型性能， 最终在 AAAI 2023 的 Factify challenge 中获得了最高成绩和新的最佳结果。

    Feb, 2023

  • 基于结构一致性的多模态事实验证: Factify 2 中的 INO

    本文介绍了我们在 AAAI2023 的多模态事实验证（FACTIFY）挑战中的方法。我们提出了一个基于结构一致性的多模态事实验证方案来分类虚假新闻，通过随机森林分类器将特征进行合并并获得了 0.8079 的加权平均 F1 分数。

    Mar, 2023

  • Factify 2: 多模态假新闻检测研究结果

    社交媒体的迅速增长导致虚假新闻泛滥，因此自动检测和验证虚假信息的研究变得尤为重要。本研究介绍了 Factify 2 任务的结果，提供了一个多模态事实验证和讽刺新闻数据集，并使用基于多模态关系将社交媒体索求与支持文件进行比较，最终得到 81.82% 的最高 F1 分数。

    Jul, 2023

  • Factify 2: 一份多模态假新闻和讽刺新闻数据集

    本研究提供 FACTIFY2 这一多模态事实核查数据集以及相关算法，并使用新数据源和添加讽刺文章来改进 FACTIFY1，FACTIFY2 具有 50,000 个新实例数据，包含支持、无证据和驳斥三个分类以及文本和视觉数据的三个子分类，使用基于 BERT 和 Vision Transformer 的基础模型的测试集 F1 分数为 65％。

    Apr, 2023

  • 端到端多模态事实核查与解释生成：一组具有挑战性的数据集和模型

    我们提出了一种端到端的多模态事实核查和解释生成方法，利用包括文章、图片、视频以及推特在内的大量网络资源来评估索赔的真实性，并生成一个有理化陈述来解释推理和裁定过程。我们构建了 Mocheg，这是一个大规模数据集，包括 21,184 个索赔和 58,523 条文本和图像形式的证据。我们在多模态证据检索、索赔验证和解释生成三个子任务上进行了几种最先进的神经网络结构的实验，以建立基准性能，并展示端到端多模态事实核查的最新性能仍然远远不够令人满意。据我们所知，我们是第一个建立端到端多模态事实核查和证明基准数据集和解决方案的研究团队。

    May, 2022

  • FACTIFY3M: 基于 5W 问答的多模态事实验证基准

    为解决社交媒体上大规模的多模态虚假信息检测问题，我们介绍了一个名为 FACTIFY 3M 的数据集，包含了 3 百万个样本，其中包括文本声明、图像、像素级图像热力图和 5W 问答对等元素，并且提供了可解释性的概念。

    May, 2023

  • Factify 2022 上的团队 Yao：利用预训练模型和协同注意力网络进行多模态事实验证

    提出了一个 Pre-CoFact 框架来解决社交媒体上的虚假信息问题，其包括两个预训练模型和多个共同注意网络，并采用集成方法以提高性能。该框架在 Factify 挑战赛上取得了第五名，证明了其在不使用辅助任务或额外信息的情况下获得了竞争力。

    Jan, 2022

  • 使用实体识别、TFIDF 向量比较和可分解注意力进行事实验证的 DeFactoNLP

    本文描述了 DeFactoNLP 系统，该系统用于自动评估声明的准确性并从维基百科中检索支持此评估的证据。我们的方法基于 TFIDF 向量和被提出的命名实体来识别包含证据的维基百科文章，并通过文本蕴涵识别模块来计算句子支持声明的概率。我们的方法在 FEVER 2018 共享任务中获得了不错的表现。

    Sep, 2018