Feb, 2024

多任务媒体偏见分析泛化预训练的表达式识别

PDF
TL;DRMAGPIE 是第一个专门针对媒体偏见检测的大规模多任务预训练方法，通过提出 Large Bias Mixture (LBM)，编制了 59 个与偏见相关的任务。实验证明，MAGPIE 在 Bias Annotation By Experts (BABE) 数据集上的媒体偏见检测表现优于之前的方法，相对提升了 3.3% 的 F1 得分。MAGPIE 在 Media Bias Identification Benchmark (MBIB) 的 8 个任务中有 5 个任务表现更好。通过使用 RoBERTa 编码器，相比单任务方法，MAGPIE 只需要 15% 的微调步骤。结果显示，情感和情绪等任务可提升所有任务的学习，所有任务都可以增强对假新闻的检测，而扩展任务可以取得最佳结果。MAGPIE 证实了多任务学习是解决媒体偏见检测的一种有前景的方法，提高了现有模型的准确性和效率。此外，LBM 是第一个专注于媒体偏见多任务学习的资源收集。
发现论文，激发创造
  • MBIB - 首个媒体偏见识别基准任务和数据集合集

    本研究介绍了 Media Bias Identification Benchmark（MBIB），这是一个包含不同类型媒体偏见的综合性基准，使用最新的 Transformer 技术对其进行了评估，结果表明，虽然仇恨言论、种族偏见和性别偏见更容易检测，但模型却无法处理某些偏见类型，同时该基准还发现了研究兴趣和资源分配的不均衡现象，鼓励开发更强大的系统来解决多个媒体偏见类型问题。

    Apr, 2023

  • 利用基于 Transformer 的多任务学习技术检测新闻报道中的媒体偏见

    本文提出了一种基于多任务深度学习训练的 Transformer 架构，使用六个与偏见相关的数据集来解决媒体偏见检测问题，取得了较好的效果。

    Nov, 2022

  • 使用 BABE 远程监督进行神经媒体偏见检测 -- 专家标注偏见

    本论文介绍 BABE 数据集，该数据集由专家标注，在标注质量和协议一致性方面比现有研究有了更好的表现。基于该数据集，使用 BERT 模型进行监督学习，可以自动检测新闻文章中引入偏见的句子。最终实验结果表明，该方法优于现有方法，在该数据集上的宏 F1 值为 0.804。

    Sep, 2022

  • 在大型预训练变换器中集成多模态信息

    本文提出了一种名为 Multimodal Adaptation Gate (MAG) 的附加组件，该组件可以扩展 BERT 和 XLNet 的语言模态以接受面部表情和语音等多模态信息，在情感分析等任务上具有显著的性能优势。

    Aug, 2019

  • MAFIA: 多适配器融合式全包含语言模型

    通过使用结构化知识和大型生成模型，在多个偏见维度上以半自动的方式构建多样化反事实数据扩充（CDA），我们提出了一种模块化地消除预训练语言模型中的多个偏见维度。我们强调现有的去偏见方法未考虑多个社会偏见之间的相互作用，并提出了一种在各种社会偏见之间利用协同效应、能够同时进行多偏见去偏见的模型。通过在多个任务和多种语言上进行广泛评估，证明了我们的方法的有效性。

    Feb, 2024

  • 一种多模交互情感识别中的去偏置、情感知识增强 Transformer

    通过提出一系列方法缓解文字表达和视觉表现中五种典型偏见（性别，年龄，种族，宗教和 LGBTQ+）的影响，本研究首次尝试解决情感识别中的多重偏见问题，提出了一种多重偏见缓解、情感知识增强的双模换能器模型（MMKET），实验结果表明该模型有效降低了偏见对分类性能的影响，对情感研究及情感识别的发展具有积极影响。

    Jul, 2022

  • SemEval-2022 任务 5：多模态多变压器厌恶女性主义迷因分类框架的编解码器

    该论文描述了他们在 SemEval 2022 竞赛的任务 5（多媒体自动仇恨辨别）中，构建通用框架以处理多模式嵌入和多标签二进制分类任务的工作。为了避免深度模型从零开始的资源和数据饥饿问题，作者采用三种主要策略，即组合不同的先进架构来捕捉来自多模态输入的广泛语义信号，采用多任务学习模式来利用来自同一领域的多个数据集以提高模型性能以及使用多个目标来规范和微调不同的系统组件。

    Jun, 2022

  • 基于领域感知的自监督预训练，用于标签少的模因分析

    我们提出了两种自监督预训练方法，即 Ext-PIE-Net 和 MM-SimCLR，通过采用现成的多模态仇恨言论数据和多个专门的预设任务实现了自监督学习，为模因分析提供了必要的复杂多模态表示学习，通过标签有效训练，在所有三个任务中性能优于基线并证实了我们的方法的泛化性。

    Sep, 2022

  • 多模态偏见：在视觉语言模型中引入一个能评估除性别和种族以外刻板印象的框架

    本文提出了一个名为 MMBias 的基准数据集，用于评估自我监督多模态模型中的偏差，并介绍了一种旨在缓解偏差的去偏置方法。

    Mar, 2023

  • 新闻上的语言偏见检测的领域自适应预训练方法

    本文针对媒体偏见的重要形式 —— 用词偏见展开研究。提出了一种基于 DA-RoBERTa 模型的领域自适应方法，实现在句子级别上对有偏见的用词进行检测。同时，训练了 DA-BERT 和 DA-BART 两种基于转换器的模型，并证明了这些模型在相同数据上优于以前的偏见检测方法。

    May, 2022