May, 2023

机器学习效仿您？算法教育而非训练

HTML
PDF
TL;DR这篇论文认为，机器学习（ML）算法必须接受教育，因为这些算法所作的道德决定在人类社会中无处不在，有时候反而逆转了政府、非政府组织和公民社会在过去几十年中所取得的社会进步。这篇论文认为对于人工智能进行伦理决策的解决方案，关键在于教育算法（相对于训练）。根据机器学习和孩子教育社会责任之间的类比，本文提供了关于如何教育算法进行道德决策的明确方向。
发现论文，激发创造
  • 社会责任型人工智能算法：问题、目标和挑战

    本文介绍了开发Socially Responsible AI Algorithms框架的意义和方法来实现人工智能的可信赖，从而提高人类社会的福祉。

    Jan, 2021

  • 关于机器道德的一词：对蒋等人（2021）的回应

    本文探讨了AI和NLP领域中的伦理学问题，重点关注了自动化伦理判断的Delphi模型，并提出了批判性的观点和如何通过透明度、民主价值观和简单明了的问责机制来推动机器伦理学的发展。

    Nov, 2021

  • 为何需要有偏倚的人工智能——如何通过引入认知和伦理机器偏差来增强人工智能系统

    本文阐述了人类认知偏差在人工智能领域中的重要性，并提出了在学习算法中结构上实施认知偏差以及为选择具有道德价值的社会或行为特征的偏向训练刺激应用过滤机制，结合七个具体的偏见实现情景案例，将来自认知科学和伦理学的启示应用于人工智能领域，是对重新评估机器偏见道德意义的探索和实施认知偏差到机器中的首次尝试。

    Mar, 2022

  • 反思公平：对霸权机器学习公平方法批评的跨学科调查

    本文评估并比较了来自哲学、女性主义研究、批判性种族和民族研究、法律研究、人类学和科学技术研究等非计算学科的现有批评，旨在提供 ML 公正技术干预的跨学科理解，以此产生社会上最边缘化群体的公正结果，最后讨论了基于这些批评的未来 ML 公正研究方向。

    May, 2022

  • 道德准则是否有自己的道德准则？探究德尔斐道德哲学

    通过一些标准的道德问卷，研究发现虽然有些不一致，Delphi模型与参与注释的人群所关联的道德原则相似，但是研究质疑了这种模型的可取性，并探讨了如何在这一基础上推进。

    May, 2022

  • AI中超越偏见和从众行为：走向个体代理和多元伦理

    文章提出一种新方法，强调数据标注在维护机器伦理方面的重要作用，并探讨了伦理基础、系统架构以及伦理定义的问题；同时，该文章还指出，建立伦理人工智能是为了在公司和用户之间建立信任基础。

    Feb, 2023

  • 困境工具包：去偏见和公平公式以实现负责任的AI/ML

    本文探讨公平和道德人工智能的方法，引入了一组三部分的决策工具包，涉及公正AI / ML的相关问题，并主张采用特定的推理和创造性的方法去解决负责任的算法/数据驱动系统面临的各种问题。

    Mar, 2023

  • 机器学习实践与基础设施

    通过对Stack Exchange论坛上的问题进行实证研究，探讨了互动式计算平台在机器学习工作中的使用，及其对机器学习实践和系统开发的影响，这可能导致使机器学习生命周期中的某些方面变得不可见，这些方面对于已部署的机器学习系统的社会影响尤为重要，这也是AI伦理学家一直强调的。

    Jul, 2023

  • 可解释人工智能是否具有道德价值?

    解释性人工智能（XAI）的道德框架基于道德义务和互惠概念，旨在构建复杂算法系统和人类利益相关者之间的联系，并以使AI决策过程中的对称性和机会得以维护为目标。

    Nov, 2023

  • 通过经验与互动学习机器道德

    下一代人工智能系统的安全性越来越受关注，需要将道德性融入自主代理中。本文系统化地介绍了在机器中引入道德性的现有方法，并提出了需要更多混合解决方案创建适应性强、稳健可控且可解释的代理的论点。同时，通过案例研究和评估道德学习代理的有效性，探讨了未来人工智能安全和伦理面临的挑战。

    Dec, 2023