Sep, 2022

人工智能、透明度和个人自主权

PDF
TL;DR使用机器学习的 AI 决策算法越来越普及，在诸如保释听证会、医疗诊断和招聘过程中使用。本文旨在通过探讨透明度和不透明性的因果解释，以及最近有关因果解释价值的工作，为算法的不透明性提出了一个道德关注点：当这些算法用于改变人们生活的决策时，它们会妨碍我们根据我们的目标和偏好有效地塑造自己的生活，从而削弱我们的自主权。作者认为这个问题值得密切关注，因为它为算法决策中的透明度提供了新的工具和新的挑战。
machine learningai decision algorithmstransparencyopaque algorithmsautonomy
发现论文，激发创造
  • 可解释性与问责制决策算法的冲突

    本文旨在探讨可解释人工智能是否能帮助解决自主 AI 系统所提出的责任问题，并得出结论，提供一系列建议如何处理算法决策的社会技术过程，并提出采用严格的法规来防止设计者逃避责任。

    May, 2022

  • 算法决策中公平和透明的人本视角

    该论文探讨了自动化决策系统在人类决策中的作用和不足，旨在通过深入研究来理解决策主体对于基于自动化决策系统的透明度的决策的不同感受，确保决策的质量、公正以及人性化。

    Apr, 2022

  • 公平且无偏的算法决策制定：现状与未来挑战

    机器学习算法应用于如信贷贷款或刑法司法等关乎人类生活方面的情境，其所基于的数据若含有人类偏见决策，则会产生人类偏见决策，拥有公平观念的机器学习是一种解决方案，但是如何实现公平面临着 “多维面” 等难题，要想在不同领域实现公平、公正，算法必须做到数据和开发者审查的透明化，在此基础上不断进行公平审计。

    Jan, 2019

  • 深度学习在科学发现中的应用

    本文讨论深度神经网络的透明度带来的批判性和认识论挑战，并探讨了 AI 在科学中的作用，阐明了深度学习在发现过程中的重要作用，并结合两个科学案例阐释了 AI 在引领科学界取得重大和可证明突破方面的作用。

    Jun, 2022

  • 算法公正性

    本文概述了在使用人工智能算法时如何识别、测量和提高算法公正性的主要概念，并讨论了算法偏见和不公正的原因、公正的常见定义和度量以及预处理、处理中和后处理机制，最终回顾了几个新兴的算法公正性研究子领域。

    Jan, 2020

  • 文本复杂推理的可追溯和可解释方法

    研究复杂推理任务的机器学习模型的问责和透明度方法，通过暴露潜在漏洞和解释模型推理过程来提高利益相关者的信任度和发现模型决策中的错误和不公平性。

    Nov, 2022

  • 算法时代下的歧视

    算法在歧视方面的可见性与不透明性的影响，以及其在歧视检测中提供重要透明度的需求，这也强调了算法在权衡竞争价值中的核心作用及其为公平带来积极作用的潜力。

    Feb, 2019

  • AI 中的 FATE: 走向算法包容和可访问性

    本研究旨在提高 AI 领域可达性和包容性，评估 “公正，问责，透明和伦理” 相关问题的有效性，并通过使用在线社交网络的广告数据的用户研究 (n=43) 提供有用的见解，结论是：需要与社区进行合作，以期将公正，问责，透明和伦理纳入 AI 应用系统中，从而增强受影响的社区或个人对日益增长的 AI 系统应用进行有效的探索和监管。

    Jan, 2023

  • 自动决策系统中的公平性和可解释性：计算机科学与法律的挑战

    本论文针对算法决策中的公平性问题提供了跨学科的构想。其中，法律系统的差异是一个核心问题，同时论文提出了一种上下文方法来处理意外的群体歧视，研究算法决策的可解释性。

    May, 2022

  • 实现人工智能功能透明度与有意义的可解释性之路

    人工智能的功能透明性在透明系统中遵守设计框架中成为关键挑战，要求跨学科合作来推进透明和可解释的人工智能系统的发展。

    Oct, 2023