本文从技术、法律、社会和伦理学的跨学科视角，对人工智能中的偏差和歧视进行了调查研究，并表明解决人工智能中的偏差和歧视需要进行强大的跨学科合作。

Aug, 2020

机器学习中的偏见放大是一个常见的问题，需要加深对于模型机制的理解，本研究通过控制性实验发现，偏见放大可能由于模型准确度、能力、自信度以及训练数据量等因素产生，同时也可能与分组和分类任务的难易程度相关，研究结果对指导训练机器学习模型具有借鉴意义。

Jan, 2022

本文讨论了在人工智能中缺乏公平性可能导致偏见加深和社会压力的问题，评估了当前改善 AI 公平性的策略并探索了未来的潜在路径。

Apr, 2023

该研究通过对人群亚组之间的疾病分类器性能分析，发现低诊断率造成的表现差异引起了关注，进一步强调了在训练数据中嵌入的人类偏见可能会放大现有的健康差异，并探讨了评估模型公正性的一些困难。

Jan, 2022

本文阐述了人类认知偏差在人工智能领域中的重要性，并提出了在学习算法中结构上实施认知偏差以及为选择具有道德价值的社会或行为特征的偏向训练刺激应用过滤机制，结合七个具体的偏见实现情景案例，将来自认知科学和伦理学的启示应用于人工智能领域，是对重新评估机器偏见道德意义的探索和实施认知偏差到机器中的首次尝试。

Mar, 2022

通过引入贝叶斯框架，研究了与生成人工智能合作时可能出现的一种情况：用户可能会获得生产力的提高，但人工智能生成的内容可能无法完全符合他们的偏好。我们揭示了个体决策与人工智能训练之间的相互作用可能导致社会性挑战，输出结果可能变得更加同质化，特别是当人工智能基于人工智能生成的内容进行训练时。解决同质化和偏见问题的方法是改进人工智能与人类的交互，实现个性化输出而不损失生产力。

Sep, 2023

人工智能创新主要关注 “what” 和 “how” 问题，忽视可能的危害与社会背景，导致了潜在的社会技术问题，因此我们需要计算机科学和社会学科之间更紧密的联系。

Dec, 2020

本文介绍了人工智能（AI）领域中的基础和大型语言模型（LLMs）等技术的限制和风险，并且警告使用这些技术会带来的伤害。

Jul, 2023

本研究调查了资本主义、种族压迫和人工智能之间复杂的联系，揭示了这些元素如何共同作用来加深社会不平等。通过追溯资本主义实践对边缘化社区的历史剥削，本研究表明人工智能技术不仅反映了社会偏见，而且放大了这种偏见，特别是在加剧种族差异方面。通过针对性的分析，本文介绍了人工智能发展和应用如何通过诸如零工经济的劳工滥用、有偏见的面部识别技术以及给这些社区带来不成比例的心理健康负担等机制来剥削边缘化群体。这些例子突显了人工智能在加强和加剧现有不平等方面的关键作用。文章得出的结论是，不受监管的人工智能严重威胁到现有压迫的累加，呼吁共同努力实现负责任的人工智能发展。这需要采取一种整体性的方法，修正系统缺陷，倡导边缘化个体的赋权，确保技术进步有助于社会的愈合，而不是延续剥削循环。

Mar, 2024

调查表明，人工智能领域中存在各种偏见和不公，因此机器学习研究人员定义了公平性的分类，以解决现有 AI 系统中的偏见问题。此外，调查还考察了在 AI 的不同领域和子领域中，现有技术的问题及其应对措施，以期鼓励研究人员在其各自领域中研究此问题。

Aug, 2019