Nov, 2022

印度语言技术公正研究的文化再情境化

PDF
TL;DR本文提出了一个完整的研究议程以便在印度社会背景下重新定义 NLP 公平性研究，同时考虑印度文化价值，缩小技术和资源方面的差异，并总结了一个关于印度社会不平等各个方面存在的社会偏见的实证研究，表明它们在语料库和模型中的普遍存在。
nlpfairness researchindian societal contextsocial biasesempirical study
发现论文，激发创造
  • NLP 中的公正性再概念化：以印度为例

    本文旨在研究印度社会准则在 NLP 的公正性中的作用，通过对印度社会背景、资源以及文化价值观的分析，建立公正性评估模型，探讨预测偏见和社会刻板印象的存在，并提出改进 NLP 公正性的全面研究议程，为其他地缘文化背景的研究提供借鉴。

    Sep, 2022

  • 自然语言处理中偏差和公平性调查

    本次调查分析了 NLP 模型的社会影响，探讨了 NLP 算法中存在性别、种族和文化偏见的根源，定义了公平性，并说明了 NLP 各个子领域如何减少系统存在的偏见，最终讨论了未来研究如何消除 NLP 算法中的有害偏见。

    Mar, 2022

  • 重新构想印度及其他地区的算法公正性

    本文分析了印度的 AI 力量和算法公平性，认为印度数据不稳定、机器学习开发者存在双重标准，因此在该地区只关注模型公平性是表面文章。提出了重新构想印度算法公平性的方案，重新定位数据和模型，并赋权受压迫群体，支持公正的机器学习生态系统。

    Jan, 2021

  • 评估自然语言处理技术的包容性、公平性和可访问性：以印度语言为例的案例研究

    本文提出了一种评估范式，评估自然语言处理技术在多语言、公正性和包容性三个维度上的性能，并通过基尼系数评估了当前自然语言处理技术对印度语言的性能。同时，本文提出了一种优化资源分配的方法来改善性能，并呼吁使用多维度评估为构建语言多样且公平的技术做出贡献。

    May, 2022

  • 印度法律数据训练的模型是否公平？

    本文针对语言技术和人工智能领域的进展和应用进行研究，探讨印度视角下法律领域中所存在的公平性问题，特别关注 AI 模型中的算法偏差对于对印度教和穆斯林的关联特征的差异性的影响，并强调了在印度的法律领域中，公平性 / 偏差的研究仍有待进一步的耕耘。

    Mar, 2023

  • 自然语言处理和大型语言模型的公平认证

    发展公平认证以确保自然语言处理系统的算法公正性和对少数群体的非歧视性。

    Jan, 2024

  • 跨越英语的语言模型公平性：现存问题与挑战

    本研究调查了多语言和非英文环境下公平性问题，并强调当前研究的不足之处及因英语环境限制所面临的挑战。作者认为，在构建公平性数据集方面，世界上众多多样化的文化和语言使得实现全面覆盖变得不可行，因此需超越当前仅仅集中在特定维度和类型偏见的数据集驱动方法，以便在不同的语言和文化间实现扩展。

    Feb, 2023

  • 自然语言处理中公平与环境可持续性的桥梁

    探讨现行公平方法的效率和减少自然语言处理模型能源消耗的知识蒸馏技术对公平性的影响，并发现知识蒸馏技术实际上可以降低模型公平性。

    Nov, 2022

  • 通过多任务学习解开方言与社会偏见以提高公平性

    方言、自然语言处理方法、偏见语言、公平性和多任务学习的关键字；使用多任务学习可以提高公平性，并更可靠地检测偏见语言的特性。

    Jun, 2024

  • 反思公平：对霸权机器学习公平方法批评的跨学科调查

    本文评估并比较了来自哲学、女性主义研究、批判性种族和民族研究、法律研究、人类学和科学技术研究等非计算学科的现有批评，旨在提供 ML 公正技术干预的跨学科理解，以此产生社会上最边缘化群体的公正结果，最后讨论了基于这些批评的未来 ML 公正研究方向。

    May, 2022