ACLSep, 2022

NLP 中的公正性再概念化：以印度为例

PDF
TL;DR本文旨在研究印度社会准则在 NLP 的公正性中的作用，通过对印度社会背景、资源以及文化价值观的分析，建立公正性评估模型，探讨预测偏见和社会刻板印象的存在，并提出改进 NLP 公正性的全面研究议程，为其他地缘文化背景的研究提供借鉴。
nlpfairnessindiasocial disparitiesstereotypes
发现论文，激发创造
  • 印度语言技术公正研究的文化再情境化

    本文提出了一个完整的研究议程以便在印度社会背景下重新定义 NLP 公平性研究，同时考虑印度文化价值，缩小技术和资源方面的差异，并总结了一个关于印度社会不平等各个方面存在的社会偏见的实证研究，表明它们在语料库和模型中的普遍存在。

    Nov, 2022

  • 重新构想印度及其他地区的算法公正性

    本文分析了印度的 AI 力量和算法公平性，认为印度数据不稳定、机器学习开发者存在双重标准，因此在该地区只关注模型公平性是表面文章。提出了重新构想印度算法公平性的方案，重新定位数据和模型，并赋权受压迫群体，支持公正的机器学习生态系统。

    Jan, 2021

  • 自然语言处理中偏差和公平性调查

    本次调查分析了 NLP 模型的社会影响，探讨了 NLP 算法中存在性别、种族和文化偏见的根源，定义了公平性，并说明了 NLP 各个子领域如何减少系统存在的偏见，最终讨论了未来研究如何消除 NLP 算法中的有害偏见。

    Mar, 2022

  • 评估自然语言处理技术的包容性、公平性和可访问性：以印度语言为例的案例研究

    本文提出了一种评估范式，评估自然语言处理技术在多语言、公正性和包容性三个维度上的性能，并通过基尼系数评估了当前自然语言处理技术对印度语言的性能。同时，本文提出了一种优化资源分配的方法来改善性能，并呼吁使用多维度评估为构建语言多样且公平的技术做出贡献。

    May, 2022

  • 印度法律数据训练的模型是否公平？

    本文针对语言技术和人工智能领域的进展和应用进行研究，探讨印度视角下法律领域中所存在的公平性问题，特别关注 AI 模型中的算法偏差对于对印度教和穆斯林的关联特征的差异性的影响，并强调了在印度的法律领域中，公平性 / 偏差的研究仍有待进一步的耕耘。

    Mar, 2023

  • 自然语言处理和大型语言模型的公平认证

    发展公平认证以确保自然语言处理系统的算法公正性和对少数群体的非歧视性。

    Jan, 2024

  • 自然语言处理中公平与环境可持续性的桥梁

    探讨现行公平方法的效率和减少自然语言处理模型能源消耗的知识蒸馏技术对公平性的影响，并发现知识蒸馏技术实际上可以降低模型公平性。

    Nov, 2022

  • 量化自然语言处理中的社会偏见：对外在公平度量的一般化及实证比较

    本文提出了三个广义公平度量标准，系统分析了不同的参数选择如何导致公平度量方法之间的差异，以更好地了解和处理 NLP/ML 模型中的不公平性。

    Jun, 2021

  • 足够公平：在自然语言处理领域规范评估和选择公平性研究的模型

    本研究就 NLP 系统展示的偏见和模型去偏见技术的限制做了梳理和评价，提出了实现公平学习的建议，具体包括明确不同方法之间的关系和与公平性理论的关系，以及处理模型选择问题的声明性工具，以帮助未来的工作。

    Feb, 2023

  • 在人道主义地图绘制中评估机器学习的公正性

    通过使用机器学习和卫星技术进行人道主义地图制作可以及时准确地识别需要帮助的人群，但是从空间进行人道主义制图的算法决策公平性和透明度的问题是这些方法在实践中应用的一个重要障碍，本研究以印度为例通过夜间灯光数据使用线性回归和随机森林算法制图并分析调查结果，发现贫困被系统性地高估，电气化则被系统性地低估，这将影响人道主义制图应用的多个方面并对政策目标产生负面影响。

    Aug, 2021