Nov, 2022

社会偏见媒体表示准确度的评估：没有完美的单词嵌入模型

HTML
PDF
TL;DR通过分析500k篇美国在线新闻文章中存在的社会偏见类型，使用考虑了嵌入表示问题的多种算法以及WEAT，比较了这些算法在新闻文章中训练的模型所表示的期望社会偏见，结果发现标准偏差检测方法与心理学知识并不一致，而新提出的算法虽然减轻了这种差距，但仍然无法完全匹配这些文献。
发现论文，激发创造
  • 我们是否存在一致偏差？对分布式词向量偏差的多维分析

    该研究对分布式词向量空间中的偏见效应进行了系统性分析，研究表明：偏见效应在不同的词向量模型、文本类型和语言之间是不一致的，同时，双语词向量空间中的跨语言偏见也是存在的。该研究以期促进自然语言处理中的偏见研究，为偏见缓解技术的发展提供帮助。

    Apr, 2019

  • 测量知识图谱嵌入中的社会偏见

    这篇研究是对知识 graph embeddings 中社会偏见的首次研究，提出新的度量方法，并证明像性别、宗教、民族和国籍这些方面的社会偏见已经编码在嵌入向量中，因此在利用 graph embeddings 时需要谨慎处理。

    Dec, 2019

  • 词嵌入何时能准确反映我们对人们的信念调查结果？

    本文研究了公开可得的单词嵌入在某些社会层面上的偏见反映了实际调查数据，但并非所有维度的数据都能得到反映，只有最显著的偏见维度，例如性别方面，才能得到准确的反映。

    Apr, 2020

  • 推进句子表示的去偏见化

    调查了句子级别表达中社会偏见存在的情况，提出了另一种更有效减弱偏差的方法Sent-Debias，并在保持性能的同时，用于情感分析，语言可接受性和自然语言理解等句子级下游任务。

    Jul, 2020

  • 荷兰语词嵌入的偏差评估

    本研究使用 Word Embeddings Association Test (WEAT)、Clustering 和 Sentence Embeddings Association Test (SEAT) 等方法，衡量荷兰语词嵌入中的性别偏见，并使用 Hard-Debias 和 Sent-Debias 调控方法，探索性别偏见对下游任务的影响。结果表明，传统和上下文嵌入中存在性别偏见，研究人员提供了翻译荷兰语数据集和减轻偏误的嵌入。

    Oct, 2020

  • 通过比较特定渠道的词嵌入，识别新闻文章中的偏见用语

    本文探讨了一种通过比较相关单词上下文来自动识别有偏见语言的方法，即使用在左翼和右翼新闻机构上的词嵌入模型训练，结果表明此方法是有效的。

    Dec, 2021

  • 自动摘要中的政治偏见：特朗普和拜登的案例研究

    该研究使用实体替换方法研究了新闻文章自动生成摘要中对政治家的描绘，发现抽取和生成式摘要模型中川普和拜登的政治偏见存在着差异，该系统性特征提供了未来研究偏见的框架。

    May, 2023

  • 学习无偏见的新闻文章表征：一种融合知识的方法

    利用可靠的外部数据资源学习新闻文章的公正表示，提出了一种知识注入的深度学习模型，旨在预测新闻文章的政治倾向，解决了现有学习模型在模型训练中受到新闻发布者的政治偏见影响的问题，从而消除了算法政治偏见，并在准确性方面优于基线方法，可达到73%的准确率。

    Sep, 2023

  • 新闻分析中的点点滴滴：媒体偏见与框架的跨学科调查

    新闻报道中的偏见表现和影响是社会科学的核心主题，近年来在自然语言处理领域受到了越来越多的关注。本研究综述了社会科学的方法，并将其与自然语言处理领域中用于分析媒体偏见的典型任务表述、方法和评估指标进行了对比。我们讨论了开放性问题，并提出了可能的研究方向，以填补理论与预测模型之间及其评估之间的差距。这些包括模型透明度、考虑文档外部信息以及跨文档推理而非单一标签的分配。

    Sep, 2023

  • DocNet: 归纳偏置检测模型中的语义结构

    社交媒体正在成为新闻的主要入口，但由于人们的观点不同，新闻将存在偏见。本文探讨了新闻文章中经常被忽视的偏见检测方面：语义结构。我们提出了一种新颖的归纳式、资源有限的文档嵌入和偏见检测模型（DocNet），其性能超过了大型语言模型。我们还证明了来自相对立政治立场的新闻文章的语义结构（以文档级图形嵌入表示）具有显著的相似性。这些结果可用于提高资源有限环境中的偏见检测。

    Jun, 2024