WWWFeb, 2020

使用上下文化词嵌入向主观偏见检测迈进

PDF
TL;DR本研究使用基于 BERT 模型的集成模型在 Wiki 中性语料库上进行了全面实验，从而检测到了主观偏见，并提出了比 BERT large 更具先进性的方法，F1 得分上升了 5.6%。
subjective bias detectionbert-based modelswiki neutrality corpusensemble modelsstate-of-the-art methods
发现论文，激发创造
  • 文本自动消除主观偏见

    本研究提出了一个新的自然语言生成平台，用于将带有主观倾向的文本转化为客观中立的文本，还提出了一个包含 180000 个句子对的重要语料库，并介绍了两种针对该任务的强大编解码器基线，同时进行了大规模人类评估，结果表明这些算法是自动识别和减少偏见的第一步。

    Nov, 2019

  • 测量上下文化词表示中的偏见

    本研究基于模板方法提出了一种量化 BERT 中偏见的方法，并且通过性别代词解析的案例研究证明了该方法在捕捉社会偏见方面的优越性，同时也指出了该方法的普遍适用性，包括在多类别设置中使用的种族和宗教偏见。

    Jun, 2019

  • 通过比较特定渠道的词嵌入，识别新闻文章中的偏见用语

    本文探讨了一种通过比较相关单词上下文来自动识别有偏见语言的方法，即使用在左翼和右翼新闻机构上的词嵌入模型训练，结果表明此方法是有效的。

    Dec, 2021

  • 医疗背景下词嵌入的偏见量化

    本论文研究了嵌入方法在编码社会边缘群体时的偏见问题，以及这种偏见可能导致的临床任务性能下降。通过使用 MIMIC-III 医院数据集中的医学记录对深度嵌入模型 (BERT) 进行预训练并使用两种方法量化潜在不公正性，作者发现 BERT 表征训练出的分类器在性别、语言、族裔和保险等方面表现出明显的性能差异，以及通过对抗去偏差的不足。最后提出了这些问题的最佳实践。

    Mar, 2020

  • 关注偏差：针对上下文语言模型的偏差检测方法的关键回顾

    本文为了解决公开领域语言模型中偏见检测的问题，就语境化语言模型偏见检测方法和静态单词嵌入偏见检测方法进行了严谨的分析和比较，发现了实现上的一些决策或错误对检测结果可能产生显著的影响，并提出了未来偏见检测方法更好、更健壮、更一致的方向。

    Nov, 2022

  • 评估上下文词嵌入中的潜在性别偏见

    在研究中，我们发现标准词嵌入即使经过去偏差处理，其性别偏差仍然很高，而上下文词嵌入则能够减少这种性别偏差，从而为自然语言处理应用提供更公正的结果。

    Apr, 2019

  • 评估情境化单词表征中的社会和交叉偏见

    本文分析了最先进的语境词表示模型，如 BERT 和 GPT-2，对于性别，种族和交叉身份认同的偏差情况，并提出了一种新颖的方法对词语级别上的偏差进行评估。

    Nov, 2019

  • 文本中当前的拓扑和机器学习应用于偏见检测

    本研究探索了大语言模型的嵌入和几何模型对偏见建模准确度的影响，利用 RedditBias 数据库分析文本偏见，在偏见分类上，BERT，尤其是迷你 BERT，表现出色，而多语言模型则表现较差。研究建议改进单语模型，并探索领域特定的偏见。

    Nov, 2023

  • 社会偏见媒体表示准确度的评估：没有完美的单词嵌入模型

    通过分析 500k 篇美国在线新闻文章中存在的社会偏见类型，使用考虑了嵌入表示问题的多种算法以及 WEAT，比较了这些算法在新闻文章中训练的模型所表示的期望社会偏见，结果发现标准偏差检测方法与心理学知识并不一致，而新提出的算法虽然减轻了这种差距，但仍然无法完全匹配这些文献。

    Nov, 2022

  • 检测新兴交叉偏见：上下文化词嵌入包含类人偏见的分布

    通过引入 Contextualized Embedding Association Test (CEAT) 来度量神经语言模型中的整体偏见及其方差，并开发了自动识别交叉偏见和新现出的交叉偏见的方法 (IBD 和 EIBD），结果表明交叉偏见与种族和性别相关的次数最高。

    Jun, 2020