Mar, 2023

困境工具包：去偏见和公平公式以实现负责任的 AI/ML

PDF
TL;DR本文探讨公平和道德人工智能的方法，引入了一组三部分的决策工具包，涉及公正 AI / ML 的相关问题，并主张采用特定的推理和创造性的方法去解决负责任的算法 / 数据驱动系统面临的各种问题。
fair and ethical aicritical data studiesresponsible ai/mlsituated reasoningalgorithmic/data-driven systems
发现论文，激发创造
  • 关于具有公平性、隐私和监管规范的负责任机器学习数据集

    在当前人工智能时代，本研究讨论了负责任的机器学习数据集的重要性，并提出了一个评估数据集的负责任框架。通过公平性、隐私保护和合规性等方面的考虑，我们分析了超过 100 个数据集，发现没有一个数据集能免于公平性、隐私保护和合规性问题。我们对数据集的文档化提供了改进建议，并认为在全球范围内的数据保护法规定下，科学界的数据集创建方法需要修订。

    Oct, 2023

  • 公平且无偏的算法决策制定：现状与未来挑战

    机器学习算法应用于如信贷贷款或刑法司法等关乎人类生活方面的情境，其所基于的数据若含有人类偏见决策，则会产生人类偏见决策，拥有公平观念的机器学习是一种解决方案，但是如何实现公平面临着 “多维面” 等难题，要想在不同领域实现公平、公正，算法必须做到数据和开发者审查的透明化，在此基础上不断进行公平审计。

    Jan, 2019

  • 在实施负责任的人工智能中解决伦理平衡

    通过权衡的五种方法，提出了一个框架，旨在解决高级人工智能伦理原则在实际系统中的操作问题，以应对潜在的监管要求。

    Jan, 2024

  • 无表示就无计算：通过多样性避免数据和算法偏见

    本文提倡将多样性作为核心优先事项，以实现算法公平所追求的不歧视和公正目标，并为计算机科学的从业人员提供具体的多样性措施建议，以增加多样性，并提高算法公平的实践水平。

    Feb, 2020

  • 反思公平：对霸权机器学习公平方法批评的跨学科调查

    本文评估并比较了来自哲学、女性主义研究、批判性种族和民族研究、法律研究、人类学和科学技术研究等非计算学科的现有批评，旨在提供 ML 公正技术干预的跨学科理解，以此产生社会上最边缘化群体的公正结果，最后讨论了基于这些批评的未来 ML 公正研究方向。

    May, 2022

  • 社会责任型人工智能算法：问题、目标和挑战

    本文介绍了开发 Socially Responsible AI Algorithms 框架的意义和方法来实现人工智能的可信赖，从而提高人类社会的福祉。

    Jan, 2021

  • 在算法虚假信息检测中应对意外情况：迈向负责任创新议程

    本文基于社会科学和数据科学的交叉领域，探讨了机器学习在应对在线谣言方面的正反两方面影响，剖析了机器学习模型开发中的算法特征，提出了未来的发展方向和对于算法的条理性和责任性。

    Oct, 2022

  • 自动决策中偏差的更广视角：从认识论和动态方面反思

    本论文探讨了机器学习实践中存在的技术偏见和新出现的偏见，并提出了价值敏感设计方法来重新审视自动决策系统的设计和实施过程。

    Jul, 2018

  • 迈向负责任的人工智能开发生命周期：来自信息安全的启示

    提出了一个框架，将信息安全领域和安全开发生命周期的概念应用到人工智能系统的开发中，以解决公正度、可解释性和科技伦理等方面的问题。

    Mar, 2022

  • 超越公平度量：实践中的道路障碍和伦理人工智能挑战

    讨论建立和推广符合伦理 AI 的实践中存在的实际挑战，包括监管压力、冲突商业目标、数据质量、开发过程、系统集成实践和规模问题，认为要考虑 AI 系统的全面运营上下文，才能有效应对这些伦理风险。

    Aug, 2021