基于结构一致性的多模态事实验证: Factify 2 中的 INO
本文描述了我们在 2022 AAAI 多模态事实验证(Factify)挑战上的参与系统。 我们处理该挑战为多模态蕴含任务,作为多类分类,并提出并探索了两种基线方法,包括集成模型和多模态注意力网络。 我们在此工作中测试了不同 SoTA 预训练变换器和视觉模型。 最佳模型在排行榜中排名第一, 平均 F - 度量值为 0.77。 最后,我们强调了未来研究的任务和多模态数据集的挑战。
Dec, 2021
社交媒体的迅速增长导致虚假新闻泛滥,因此自动检测和验证虚假信息的研究变得尤为重要。本研究介绍了 Factify 2 任务的结果,提供了一个多模态事实验证和讽刺新闻数据集,并使用基于多模态关系将社交媒体索求与支持文件进行比较,最终得到 81.82% 的最高 F1 分数。
Jul, 2023
本文介绍了 Pre-CoFactv2 框架,使用多模态、多类型融合方法以及特征表示来实现文本与图像的多模态事实验证,并使用统一的集成方法提高模型性能, 最终在 AAAI 2023 的 Factify challenge 中获得了最高成绩和新的最佳结果。
Feb, 2023
本文介绍了我们的方法,针对多模式信息传播中的虚假新闻进行了自动化的网络谣言 / 虚假信息检测,最终我们在 De-Factify@AAAI2022 FACTIFY 机器学习竞赛中获得了第四名,F1-score 为 74.807%。
Jan, 2022
本研究提供 FACTIFY2 这一多模态事实核查数据集以及相关算法,并使用新数据源和添加讽刺文章来改进 FACTIFY1,FACTIFY2 具有 50,000 个新实例数据,包含支持、无证据和驳斥三个分类以及文本和视觉数据的三个子分类,使用基于 BERT 和 Vision Transformer 的基础模型的测试集 F1 分数为 65%。
Apr, 2023
本文描述了我们在多模态事实检查挑战中的提交,包括探索的证据检索和选择技术,预训练的跨模态和单模型,以及基于 Transformer Encoder 体系结构的跨模态准确性模型等内容,并在 Factify 2 数据集上进行的探索性分析揭示了突出的多模态模式和假设。最终系统,实现了在任务一的加权平均值为 0.79 的性能和排名第三的成绩。
Jan, 2023
为解决社交媒体上大规模的多模态虚假信息检测问题,我们介绍了一个名为 FACTIFY 3M 的数据集,包含了 3 百万个样本,其中包括文本声明、图像、像素级图像热力图和 5W 问答对等元素,并且提供了可解释性的概念。
May, 2023
我们提出了 CLIPBERTScore,一种结合 CLIPScore 和 BERTScore 的加权组合度量方法,用于多模式事实性摘要的评估,并在多个数据集上证明了其效果。
Nov, 2022
提出了一个 Pre-CoFact 框架来解决社交媒体上的虚假信息问题,其包括两个预训练模型和多个共同注意网络,并采用集成方法以提高性能。该框架在 Factify 挑战赛上取得了第五名,证明了其在不使用辅助任务或额外信息的情况下获得了竞争力。
Jan, 2022
本文提出了一种基于 BERT 模型的句子级多任务学习模型,可用于事实验证任务,并通过联合训练模型的理由选择和态度预测来实现反击社交媒体或新闻网站上不断传播的错误信息的目的。
Dec, 2020