本文讨论了使用道德困境作为验证机制，以在伦理负荷情况下实施决策算法的伦理机器学习问题。作者认为这是哲学思想实验的误用，但还是可以适当地使用其它途径来解决伦理机器学习问题。

Mar, 2022

本文探讨了 AI 和 NLP 领域中的伦理学问题，重点关注了自动化伦理判断的 Delphi 模型，并提出了批判性的观点和如何通过透明度、民主价值观和简单明了的问责机制来推动机器伦理学的发展。

Nov, 2021

该研究使用交互式定理软件，实现基于康德哲学传统的自动化康德伦理学，并开发了一个测试框架来评估其在伦理判断中的表现，这是创建哲学成熟的伦理人工智能代理的早期步骤，它在康德哲学文献的基础上可以做出复杂的伦理问题的细致判断。

Jul, 2022

该研究论文提出两种训练方法实现不同的期望，通过在简单环境中训练智能体在道德不确定性下行动，从而促进具有道德能力的代理人的进展，并突显强化学习对道德哲学的计算基础的潜力。

Jun, 2020

本文中，我们将一个常见的验证方法应用于我们的后果引擎，以增强自主系统的道德决策能力。

Apr, 2015

AI 系统在决策中的应用日益增多，确保这些系统有合理的道德推理至关重要。我们提供了一个框架，使用语言模型将捕捉道德困境关键方面的因果图翻译为提示模板，并通过 OffTheRails 基准测试生成了一系列道德困境，组成了 50 个场景和 400 个独特的测试项目。与两个语言模型（GPT-4 和 Claude-2）的评价相比，我们从人类参与者为子集的项目收集了道德合理性和意图评估结果。在道德困境中，将伤害视为必要手段（与副作用相比）会导致参与者和语言模型对其道德可容许性的评价较低，对其意图评价较高。这种模式也适用于可避免与不可避免的有害结果。然而，无论损害是来自代理人的行动还是来自未行动，都没有明确的影响。我们讨论了提示生成流程的限制以及改善场景来增强实验效果的机会。

Apr, 2024

我们通过 Isabelle / HOL 中的浅层语义嵌入来实现了对规范（基于偏好的）条件推理的一些结果，我们的重点是 Aqvist 的 E 系统及其扩展。我们考虑了框架的两种可能用途，第一种是作为关于所考虑逻辑的元推理工具，我们使用它来自动验证道德对应（广义上）和相关问题，类似于以前在模态逻辑方面实现的情况。第二个用途是用于评估伦理论证，我们提供了人口伦理学中一个众所周知的悖论，帕菲特令人讨厌的结论的计算机编码。关于所呈现的编码是否增加或减少了令人讨厌的结论的吸引力和说服力，这是我们想要传递给哲学和伦理学的一个问题。

Aug, 2023

提出了一种基于社交动态的常识道德学习模型，描述了道德困境的效用函数，用于解决抽象的道德维度上的交易，并通过贝叶斯模型刻画了个体和团体的社会结构，从有限的观测数据中推断出个体和团体的道德价值，并将该方法应用于自主车辆道德困境数据。

Jan, 2018

讨论在计算能力不足时使用替代逼近过程和启发式方法以及使用用户效用结构对推理进行量身定制来平衡部分结果的成本和收益的应用决策理论来解决困难问题的解决方案。

Mar, 2013

该研究论文提出了一种基于四个核心道德原则的框架 - 一个伦理保证论证模式 - 来结构化系统化地推理出在特定情境下使用给定的人工智能 / 自主系统的道德可接受性，以此来扩展和应用保证论证方法，从而获得使用 AI 和自主系统时的可接受道德保证。

Mar, 2022