ACLNov, 2019

社会偏见框架：推理语言的社会和权力含义

PDF
TL;DR本研究提出了一种名为 “社会偏见框架” 的新的概念形式化模型，以模拟人们如何将社会偏见和刻板印象投射到其他人身上的框架，并建立了一个名为 “社会偏见推理语料库” 的数据集来支持大规模建模和评估，分析表明当前最先进的神经模型虽然能够高效地对是否含有不良社会偏见进行分类，但在详细解释社会偏见框架方面并不有效。本研究为今后的研究工作提供了指导，即将结构化的语用推理与社会影响的通识推理相结合。
social bias framessocial bias inference corpussemantic formalismsneural modelspragmatic implications
发现论文，激发创造
  • 探索对话系统中的社交偏见：框架、数据集和基准

    本文提出了一种社会偏见检测的新框架 Dial-bias，通过该框架构建了中文社会偏见对话数据集，并建立了不同粒度和输入类型的对话偏见检测基准，旨在帮助实践中构建更安全的对话系统。

    Feb, 2022

  • 内涵框架：基于数据的研究

    通过众包实验和单词分布表示，本文介绍了表示形式 connotation frames，它可以组织单词中的 connotative 关系并分析线上新闻媒体中的潜在偏见。

    Jun, 2015

  • 探索并缓解语言模型中的社会偏见

    为了提高语言模型的公正性，本文提出了多项定义并给出了新的测试和度量方式，旨在减少机器学习在文本生成过程中对性别、种族、语言宗教等社会构建的刻板印象所带来的负面影响。实证结果和人工评估表明，该方法能够在文本生成中减少偏见同时保留重要的上下文信息。

    Jun, 2021

  • COBRA 框架：有关攻击性言论的影响和伤害的情境推理

    本文提出了 COBRA 框架，这是第一种上下文感知的形式主义，用于解释有害或有偏见言论的意图、反应和危害，着重于其社会和情境背景。我们创建了 COBRACORPUS 数据集，并发现上下文不敏感模型的解释显着劣于上下文感知模型，特别是在上下文反转言论的冒犯性时。本研究强调了上下文化 NLP 建模社会因素的重要性和可行性。

    Jun, 2023

  • ENTRUST: 使用语言模型和蕴涵进行论据重构

    该论文提出了一种用于重新框架论点的方法，该方法结合了可控文本生成和模糊匹配技术，以实现通过纯文本改善论点效果的目的。

    Mar, 2021

  • 社交媒体上移民话语框架建模

    研究了社交媒体上普通民众如何表述移民政策议题，发现使用特定帧对话题更有针对性、更易引发用户参与，同时用户意识形态和地域也影响他们的话语选择和反应。此研究为自然语言处理和社科研究提供了新的贡献。

    Apr, 2021

  • 通过遮蔽语言建模捕捉主题框架

    通过大规模的调整语言模型，提出了一种建模差异语境的框架，该框架能够捕捉传统媒体和社交媒体上政治性偏见问题的高度可靠性。

    Feb, 2023

  • 新闻框架：从人类感知到大型语言模型推断

    本文通过对欧洲五个国家的 No-Vax 运动相关文章的标题进行人工标记及使用 GPT-3.5 的微调和提示工程来推断新闻标题的框架，以研究该主题。研究结果为新闻分类等任务的可行性和 GPT-3.5 模型是否能够复制人的感知能力做出贡献。

    Apr, 2023

  • 新闻分析中的点点滴滴：媒体偏见与框架的跨学科调查

    新闻报道中的偏见表现和影响是社会科学的核心主题，近年来在自然语言处理领域受到了越来越多的关注。本研究综述了社会科学的方法，并将其与自然语言处理领域中用于分析媒体偏见的典型任务表述、方法和评估指标进行了对比。我们讨论了开放性问题，并提出了可能的研究方向，以填补理论与预测模型之间及其评估之间的差距。这些包括模型透明度、考虑文档外部信息以及跨文档推理而非单一标签的分配。

    Sep, 2023

  • 权力的回声：语言效应与社交互动中的权力差异

    通过对维基人和美国最高法院的论据展开研究，我们发现群体讨论中一些人立即回应其他人的语言风格与其他成员之间的权力差异是相关的，提出了基于语言协调的分析框架，可以用于阐明功率关系，并跨多种类型的力量保持一致。

    Dec, 2011