May, 2023

审视自然语言处理工具在儿童保护服务中种族偏见的风险

PDF
TL;DR通过检验 CPS 的自由文本数据，我们在文本风险预测、共指消解和命名实体识别模型中记录了一致的算法不公平性，强调了将 NLP 应用于 CPS 设置中存在潜在的算法偏见风险，并且即使它们似乎更加良性，也必须关注，这是对 NLP 算法公平性的罕见现实检查和一个与在 CPS 中部署 NLP 相关的特定风险的及时调查。
natural language processingalgorithmic fairnessracial biasrisk predictioninformation extraction
发现论文，激发创造
  • 自然语言处理中偏差和公平性调查

    本次调查分析了 NLP 模型的社会影响，探讨了 NLP 算法中存在性别、种族和文化偏见的根源，定义了公平性，并说明了 NLP 各个子领域如何减少系统存在的偏见，最终讨论了未来研究如何消除 NLP 算法中的有害偏见。

    Mar, 2022

  • 自然语言处理中社会人口统计信息偏差调查

    本篇论文调查了 209 篇关于自然语言处理模型中的偏差的论文，提出了社会人口统计学偏见的定义，并确定了研究偏见的三个主要类别：偏见类型，偏见度量和去偏见。作者总结说，目前的去偏见技术是肤浅的，不能真正消除偏见；最后提供了未来工作的建议。

    Jun, 2023

  • 自然语言处理和大型语言模型的公平认证

    发展公平认证以确保自然语言处理系统的算法公正性和对少数群体的非歧视性。

    Jan, 2024

  • 自然语言处理中不良偏见：避免度量危机

    本文综述了自然语言处理技术的快速发展所带来的问题，尤其是如何检测这些技术中的偏见。作者讨论了适用于评估和改进这些偏见测量方法的心理测量学概念，并认为采用心理测量学词汇和方法可以使 NLP 偏见研究更有效和透明。

    Nov, 2022

  • 自然语言处理中种族、种族主义和反种族主义综述

    通过调查 ACL 文献集中涉及种族的 79 篇论文，发现 NLP 模型开发各阶段都存在各种类型的种族相关偏见，并强调需要积极考虑如何维护种族等级制度，但在种族和 NLP 研究方面仍存在缺口：将种族作为固定单一维度变量运作，对历史上种族歧视造成的差异加以强化；在 NLP 文献中历史上处于边缘的特定人群的声音几乎没有被重视。因此，我们的工作呼吁在 NLP 研究实践中包容种族和实现种族公正。

    Jun, 2021

  • 神经自然语言处理中的性别偏见

    本文研究了神经自然语言处理系统是否反映了训练数据中的历史偏见。通过定义量化神经自然语言处理任务中的性别偏见的基准测试，实证研究发现目前最先进的神经语言模型和基于基准数据集的循环神经网络在职业看待上存在显著的性别偏见。作者提出了一种基于因果干预的语料库增强通用方法，CDA，以减轻偏见而保留矫正前的准确性。作者发现 CDA 优于词嵌入去偏的先前方法，尤其是在词嵌入训练时；对于预先训练的嵌入，两种方法可以被有效地组合。作者还发现原始数据集在优化时会鼓励性别偏见增加；而 CDA 可以缓解这种行为。

    Jul, 2018

  • 自然语言处理中减轻性别偏见：文献综述

    本文回顾了当今关于识别和减轻 NLP 中的性别偏置的研究，并分析了四种代表性偏置基础上的性别偏见和认识其方法，同时探讨了现有性别去偏方法的优缺点和未来的研究。

    Jun, 2019

  • 数据和机器学习算法中种族偏见对用户说服力和歧视性决策的因果影响：实证研究

    AI/NLP models trained on racially biased datasets demonstrate various types of bias, raising profound ethical implications regarding the impact of these models on user experience and decision-making due to the presence of racial bias features in datasets. The research implicates a negative influence on users' persuasiveness due to unexplainable discriminatory outcomes, calling for responsible AI frameworks within organizations.

    Jan, 2022

  • 自然语言处理中偏见和伤害的度量

    该研究提出了有关 NLP 技术中有关社会偏见的框架和一系列问题，并且通过几个案例研究来验证了我们的框架和记录问题。

    Aug, 2021

  • 走向一种整体方法：通过跨学科视角理解自然语言处理模型中的社会人口偏差

    快速增长的自然语言处理在各种社会技术解决方案中的使用和应用突显了对偏见及其对社会的影响的全面理解的需求。虽然 NLP 中的偏见研究得到了扩展，但仍存在一些需要关注的挑战，包括有限地关注种族和性别以外的社会人口偏见、主要集中在模型上的狭窄分析范围，以及技术为中心的实施方法。本文解决了这些挑战，并倡导一种更加跨学科的方式来理解 NLP 中的偏见。该工作分为三个方面，每个方面探索 NLP 中的特定偏见方面。

    Aug, 2023