我们探索了一种人机交互界面的设计，使得普通用户可以识别潜在的公平问题并在贷款决策的背景下解决它们，为评判和解决人工智能的公平性做出贡献。

Apr, 2022

本文提出了一种用于优化 AI 模型的框架和一些示例方法，根据人类政策制定者的偏好来平衡公平性、模型准确性等目标之间的平衡，以此来减少偏差和不公平。

Feb, 2020

本文介绍了可解释 AI 的技术领域以及人们对人机交互和用户体验设计日益重视，在 XAI 的设计、评估、概念和方法论工具方面提供人本方法的作用。本文旨在提供人本的 XAI 设计，并帮助传达和扩展已有的 XAI 工具箱。

Oct, 2021

提出了一种名为 'FairCompass' 的人在循环中的公平审计方法，通过混合可视化分析系统将子组发现技术和基于决策树的模式集成到终端用户中，以促进可视分析的知识生成模型的使用，在实际情境中评估了 FairCompass 的公平审计效果，结果显示该系统在实际应用上具有潜力，望能填补公平性研究中的现行空白并促进在机器学习系统中的公平性操作实施。

Dec, 2023

本文探讨了机器学习中公平性、可解释性、人本主义、社会偏差等问题，并提出了一种以人为本的人工智能方法，以增强分类系统和单词嵌入的可解释性和公平性，通过 D-BIAS 等可视化工具识别和缓解社会偏见。

Jun, 2023

本文通过主题式地回顾和分析了 27 篇 CHI 研究论文和 19 个工具包，提出了对人本 AI (HCR-AI) 研究现状的基础性映射，结果显示当前 HCR-AI 研究热点为可解释性、公平性、隐私和安全等方面，同时指出应开展 AI 问责性的研究，并为非专业人员构建一种可用工具问责 AI，以解决 AI 对个人、社会和自然资源（人类繁荣和可持续性）的长期影响问题。

Feb, 2023

基于我们之前的工作，本文提出了一个综合的基于人为中心的人工智能（HCAI）框架，包括设计目标、设计原则、实施方法、跨学科团队和 HCAI 流程，同时提出了一个 “三层” 方法以促进框架的实施，我们相信这个系统性和可执行性框架可以克服当前 HCAI 框架中的不足，并应对当前实践中面临的挑战，进一步实现 HCAI 的发展。

Nov, 2023

在人工智能逐渐融入决策过程的时代，本研究论文综合探讨了偏见和公平性问题，特别着重研究它们在银行业中的影响，其中由人工智能驱动的决策具有重大的社会影响。在这个背景下，公平性、可解释性和人类监督的无缝融合至关重要，最终形成了常常称为 “负责任人工智能” 的概念。这强调了在开发企业文化时解决偏见的关键性，以便与人工智能法规和普世人权标准相一致，特别是在自动决策系统领域。现今，将伦理原则纳入到人工智能模型的开发、训练和部署中对于遵守即将出台的欧洲法规和促进社会公益至关重要。本论文以了解偏见、减少偏见和考虑偏见三个基本支柱为结构，验证了这些贡献在与 Intesa Sanpaolo 的实际应用场景中的实用性。这项合作努力不仅加深了我们对公平性的认识，还提供了实际工具来负责任地实施基于人工智能的决策系统。遵循开源原则，我们已发布了 Bias On Demand 和 FairView 作为易于使用的 Python 包，进一步推动了 AI 公平领域的进展。

Jan, 2024

设计增强的 AI 系统控制 (DECAI) 是一个概念性模型，它着眼于探讨接口在人工智能系统中的作用，通过两个案例研究展示了 DECAI 的应用价值。

Apr, 2024

人工智能（AI）模型在我们的生活的各个方面得到广泛应用，如医疗、教育和就业。鉴于它们在许多敏感环境中使用并做出可能改变生活的决策，潜在的偏见结果成为一个紧迫问题。开发人员应确保这些模型不表现出任何意外的歧视做法，如对特定性别、种族或残疾人的偏袒。随着 AI 系统的广泛应用，研究人员和从业者对不公平的模型意识越来越强，并致力于减少其中的偏见。本文综述了研究人员在确保 AI 系统公平性方面所做的不同努力。我们探讨了当前文献中关于公平性的不同定义，通过对不同类型的偏见进行分类，研究了不同应用领域中存在的出现偏见的 AI 案例。我们对研究人员在减少 AI 模型偏见方面采用的方法和技术进行了详细研究。此外，我们还深入探讨了偏见模型对用户体验的影响以及在开发和部署此类模型时需要考虑的伦理问题。我们希望通过分享这份全面的综述，帮助研究人员和从业者理解 AI 系统中公平性和偏见的复杂问题。通过此综述，我们旨在促进公平和负责任 AI 领域的进一步讨论。

Mar, 2024