构建可信人工智能的首要任务是按照女性主义、非剥削的参与式设计原则，并强化外部公正的持续监测和测试。要想构建可信任的人工智能，还需要考虑公正与权利不均；支持组织，如 AI 中的酷儿组织，以确保人工智能领域的多样性和包容性；并考虑使用酷儿身份等性别因素构建 AI 数据集的优势及相应的伤害补救方案，并提出关于性别多样性和隐私、酷儿数据保护的政策框架。

Sep, 2021

通过 Queer in AI 的案例研究，我们探讨参与式设计和交叉性原则是如何塑造该社区项目的，并从中挖掘了重要的教训和见解，这些教训和见解为 AI 的参与式方法论和社群参与作出了贡献。

Mar, 2023

本文探讨了算法公平性在关注性取向和性别认同方面的不足，研究了人工智能对酷儿社群的正面和负面影响，强调了需要开发新的算法公平性方法来解决未被观测到的特征，如性取向和性别认同。

Feb, 2021

研究人员开发了一个名为 Aequitas 的开源工具包，该工具包可帮助数据科学家、机器学习研究人员和政策制定者测试多个偏差和公平度量标准，以实现对算法决策制定系统进行有根据的和公平的决策。

Nov, 2018

本篇论文旨在通过对视觉隐私问题的分析，系统地研究机器学习流程中的公平性、隐私、人类干预以及潜在的社会伦理问题，从而提高相关利益相关者（研究人员，模型构建者，企业等）的认识与责任意识。

Nov, 2021

介绍了计算系统杂交网络可能造成的几种潜在的伤害形式，探讨了这些潜在的伤害对不同利益相关方的影响，并提出了有效的伤害预防框架应该考虑包括计算系统特征、利益相关方和潜在伤害的广泛范围等在内的因素。

Nov, 2020

本文提倡将多样性作为核心优先事项，以实现算法公平所追求的不歧视和公正目标，并为计算机科学的从业人员提供具体的多样性措施建议，以增加多样性，并提高算法公平的实践水平。

Feb, 2020

最近人工智能方面的进展，包括高度复杂的大型语言模型（LLM）的发展，已在许多实际应用中证明其益处。然而，这些 LLM 中存在的固有偏见的证据引发了对公平性的担忧。作为回应，涉及偏见的研究增加了，包括量化偏见和开发去偏技术的研究。针对二元性别分类和道德 / 种族考虑，还开发了基准偏见数据集，主要关注美国人口统计信息。然而，在了解和量化与少数族裔社会有关的偏见方面几乎没有研究。受对用于量化少数族裔社会偏见的注释数据集缺乏的启发，我们努力为新西兰（NZ）人口创建基准数据集。然而，尽管有三名注释者的数据，我们在这个过程中面临了许多挑战。这项研究概述了手动注释过程，概述了我们遇到的挑战和所学到的教训，并提出了未来研究的建议。

Sep, 2023

AI 工具越来越多地在社区环境中部署。然而，用于评估 AI 的数据集通常由社区之外的开发者和注释者创建，这可能对 AI 性能产生误导性结论。本研究调查了如何赋予社区推动 AI 评估数据集的有意设计和策划的能力，我们在维基百科进行了探索。我们引入了 Wikibench，这是一个系统，可以让社区协作策划 AI 评估数据集，并通过讨论解决歧义和观点差异。维基百科的实地研究表明，使用 Wikibench 策划的数据集能够有效捕捉到社区的共识、分歧和不确定性。此外，研究参与者使用 Wikibench 来塑造整个数据策划过程，包括改善标签定义、确定数据包含标准和撰写数据说明。根据我们的研究结果，我们提出了支持社区驱动的数据策划的未来发展方向。

Feb, 2024

本文探究大型语言模型（LLMs）（如 BERT）中是否存在反对酷儿和跨性别者的偏见，并提出一种通过对酷儿社区撰写或关于酷儿社区的数据对模型进行微调以减少这些偏差的方法。通过引入新的基准数据集 WinoQueer，我们发现 BERT 存在明显的反同性恋偏见，但是通过在 LGBTQ + 成员编写的自然语言语料库上进行微调，这种偏见可以得到大部分缓解。

Jun, 2022