道德不确定性与狂热主义问题
本文实现了 Maximizing Expected Choiceworthiness 算法,结合三种规范伦理理论为基础,生成最合适的输出,通过实验结果表明,MEC 算法能够在道德不确定性下制定出合适的道德判断,且能够产生与常识道德相对应或者更为适当的输出。
Jun, 2023
该研究论文提出两种训练方法实现不同的期望,通过在简单环境中训练智能体在道德不确定性下行动,从而促进具有道德能力的代理人的进展,并突显强化学习对道德哲学的计算基础的潜力。
Jun, 2020
通过将任务视为单独的投票者,使用序数排名或成对比较来产生整体评估,我们认为许多一般的评估问题都可以通过投票理论来解决。通过将聚合器视为社会福利函数,我们能够利用社会选择理论的数百年研究成果,得出具有公理基础的原则性评估框架。我们应用这种 “作为评估的投票”(VasE)框架在多个设置中,包括强化学习、大规模语言模型和人类。实践中,我们观察到 VasE 比流行的评估框架(Elo 和 Nash 平均)更稳健,在评估数据中发现仅通过分数无法明确的属性,以及在复杂的七人游戏中比 Elo 更好地预测结果。我们确定了一个特定的方法 —— 最大彩票,它满足与评估相关的重要一致性属性,计算效率高(与评估数据的规模多项式相关),并且识别出博弈理论循环。
Dec, 2023
该论文提出通过引入道德困境模态来建模具有和没有牺牲限制、以及在完美信息和不完美信息博弈中的道德困境,并证明道德困境模态无法通过之前提出的归咎模态来定义,同时给出了一个具有牺牲因素、在完美信息博弈中该模态的属性的基本定理。
Nov, 2019
提出了一种基于社交动态的常识道德学习模型,描述了道德困境的效用函数,用于解决抽象的道德维度上的交易,并通过贝叶斯模型刻画了个体和团体的社会结构,从有限的观测数据中推断出个体和团体的道德价值,并将该方法应用于自主车辆道德困境数据。
Jan, 2018
本研究通过考虑消费者的平均数场影响,量化需求响应合同在电力市场中的影响,并将问题归纳为一个关于道德风险的委托代理问题,最终制定出一种最优合同以降低电力生产成本。
Feb, 2019
本文提出了使用 Kleene 的三值逻辑作为表达代理人信念模糊性的手段的共识建模框架,通过利用中间真值来允许代理人采取更为模糊的概念解释,以减弱其信念并降低不一致性水平,从而达成共识。通过模拟实验,证明将此操作应用于从一个拥有最初不同意见的人口中随机选择的代理人(受到一定一致性阈值的约束)可以使共识收敛于更精确的共享信念的较小集合,并且当代理人的选择取决于他们信念的回报时,该系统会收敛于平均回报更高的信念。
Jul, 2016