机器学习中的相互关系、责任和鲁棒性：算法社会中的问责

Feb, 2022

机器学习中的相互关系、责任和鲁棒性：算法社会中的问责

Accountability in an Algorithmic Society: Relationality, Responsibility, and Robustness in Machine Learning

A. Feder Cooper, Emanuel Moss, Benjamin Laufer, Helen Nissenbaum

TL;DR通过重温 Nissenbaum 文章中关于计算机化对责任追究带来的挑战，结合最新的关于关系型责任追究框架的研究，探讨了数据驱动算法系统所面临的困难，并讨论了削弱这些困难的方法。

Abstract

In 1996, accountability in a Computerized Society [95] issued a clarion call concerning the erosion of accountability in society due to the ubiquitous delegation of consequential functions to →

accountability computerized systems data-driven algorithmic systems relational accountability machine learning

发现论文，激发创造

算法供应链中的责任认定

算法账户和算法供应链的治理和问责问题迫切需要关注和解决，分散的责任可能产生责任分配的挑战，而使用和责任的服务模式、监管套利等也值得关注。

Apr, 2023

面向公共政策的基于人工智能决策的系统卡片

该研究分析了算法的问题，提出了一种系统的审计框架和分数卡，以解决人工智能决策辅助系统在精确度方面的透明度与公正问题。

Mar, 2022

文本复杂推理的可追溯和可解释方法

研究复杂推理任务的机器学习模型的问责和透明度方法，通过暴露潜在漏洞和解释模型推理过程来提高利益相关者的信任度和发现模型决策中的错误和不公平性。

Nov, 2022

社会与法律约束下的深度学习数学算法设计：算法透明性要求

通过建立透明的算法模型，研究论文探讨了深度学习的可靠性和信任度，使用数学框架分析了不同计算模型下逆问题的可信解决方案，发现 Blum-Shub-Smale Machines 具有潜力在广泛条件下建立可信的解决方案。

Jan, 2024

平台 - 用户权力关系如何影响算法问责：以印度短期贷款平台和财务紧张用户为例研究

研究了印度金融形势下的高风险 AI 系统对弱势用户的交互中，用户的权利与动力被壓制，因此即使面临辱骂、反复借贷、歧视等危害，用户仍然采取顺从的行为应对金融压力，以至于对于 AI 系统的过失往往负有理当，强调技术手段之外的用户赋权、透明化和批判性反思对于 AI 负责和实现金融科技等应用具有重要意义。

May, 2022

机器学习数据集的问责性：源于软件工程和基础设施的实践

通过严格的数据集开发透明度框架，从软件开发生命周期中提取最佳实践，以决策和问责支持来关闭人工智能系统中的问责差距。

Oct, 2020

社会责任型人工智能算法：问题、目标和挑战

本文介绍了开发 Socially Responsible AI Algorithms 框架的意义和方法来实现人工智能的可信赖，从而提高人类社会的福祉。

Jan, 2021

可解释性与问责制决策算法的冲突

本文旨在探讨可解释人工智能是否能帮助解决自主 AI 系统所提出的责任问题，并得出结论，提供一系列建议如何处理算法决策的社会技术过程，并提出采用严格的法规来防止设计者逃避责任。

May, 2022

关于具有公平性、隐私和监管规范的负责任机器学习数据集

在当前人工智能时代，本研究讨论了负责任的机器学习数据集的重要性，并提出了一个评估数据集的负责任框架。通过公平性、隐私保护和合规性等方面的考虑，我们分析了超过 100 个数据集，发现没有一个数据集能免于公平性、隐私保护和合规性问题。我们对数据集的文档化提供了改进建议，并认为在全球范围内的数据保护法规定下，科学界的数据集创建方法需要修订。

Oct, 2023

在算法虚假信息检测中应对意外情况：迈向负责任创新议程

本文基于社会科学和数据科学的交叉领域，探讨了机器学习在应对在线谣言方面的正反两方面影响，剖析了机器学习模型开发中的算法特征，提出了未来的发展方向和对于算法的条理性和责任性。

Oct, 2022