May, 2022

自动决策系统中的公平性和可解释性：计算机科学与法律的挑战

PDF
TL;DR本论文针对算法决策中的公平性问题提供了跨学科的构想。其中，法律系统的差异是一个核心问题，同时论文提出了一种上下文方法来处理意外的群体歧视，研究算法决策的可解释性。
algorithmic decisionsfairnessgroup discriminationexplainabilitylegal systems
发现论文，激发创造
  • 公平性与序贯决策：局限性、教训和机遇

    本文比较和讨论了算法公平性和道德决策制定两个主要领域的研究成果，探讨了其规范关切、不同技术方案的可行性，并阐述了两种领域对对方有用的思想。

    Jan, 2023

  • 公平且无偏的算法决策制定：现状与未来挑战

    机器学习算法应用于如信贷贷款或刑法司法等关乎人类生活方面的情境，其所基于的数据若含有人类偏见决策，则会产生人类偏见决策，拥有公平观念的机器学习是一种解决方案，但是如何实现公平面临着 “多维面” 等难题，要想在不同领域实现公平、公正，算法必须做到数据和开发者审查的透明化，在此基础上不断进行公平审计。

    Jan, 2019

  • 公平性概念及相关紧张关系综述

    本文旨在调查研究自动化决策系统中机器学习算法存在的偏差及其与公平、隐私和分类准确性之间的关系，并综述了处理公平 - 准确性权衡的不同方法。作者通过实验分析了公平度量和准确度在现实世界场景中的关系。

    Sep, 2022

  • 足够公平？对 “公平” 算法要求的当前限制图谱

    提出了针对自动决策系统的公平需求的知觉差异，指出了社会必须解决的基本模糊性和关注点列表，并为自动决策系统中对公平的增加需求赋予了具体含义。

    Nov, 2023

  • 公平约束：公平分类的机制

    该研究引入了一种灵活的机制，以设计公平的分类器，其中利用了一种新颖的、直观的决策边界（不）公平度量，并结合实际的数据表明，该机制在维持准确度的小代价下，允许对公平度进行微调。

    Jul, 2015

  • 算法决策中公平和透明的人本视角

    该论文探讨了自动化决策系统在人类决策中的作用和不足，旨在通过深入研究来理解决策主体对于基于自动化决策系统的透明度的决策的不同感受，确保决策的质量、公正以及人性化。

    Apr, 2022

  • 因果公平性分析

    本文提出了一个因果公平性分析的框架，以理解、建模和可能解决决策设置中的公平问题。研究挑战是挖掘潜在的因果机制并将各种公平度量与结构机制和人口单位归因。最后，提出了一个公平的菜谱，以评估不公平对各个人群的影响。

    Jul, 2022

  • 算法公正性

    本文概述了在使用人工智能算法时如何识别、测量和提高算法公正性的主要概念，并讨论了算法偏见和不公正的原因、公正的常见定义和度量以及预处理、处理中和后处理机制，最终回顾了几个新兴的算法公正性研究子领域。

    Jan, 2020

  • 深度学习中的公平性：计算视角

    该文章从计算视角对深度学习算法的公平性问题进行了综述和分类总结，重点讨论了通过解释性来诊断算法歧视和推进公平深度学习体系的公平化方法。

    Aug, 2019

  • 算法公平性：一个容忍视角

    机器学习和深度学习的最新进展使得算法公平成为一个关注焦点，引发对影响某些个体或群体的歧视性决策的担忧。本调研综述基于 “容忍度” 提出了一个新的分类系统，揭示了算法决策中公平的微妙性。通过分析多个行业，我们的系统性综述揭示了算法决策与社会公平之间的关键见解。通过综合这些见解，我们勾勒出一系列新兴挑战，并提出未来研究和政策制定的战略方向，以推动该领域朝着更加公平的算法系统发展。

    Apr, 2024