Apr, 2022

反事实伤害

PDF
TL;DR本文提出了第一个使用因果模型来形式化定义伤害和益处的方法，并证明了不能进行反事实推理的标准机器学习算法在损害易变的情况下必定追求有害政策。并利用我们对伤害的定义，设计了一种用于决策的框架，以减少伤害。这个框架是利用反事实目标函数。我们用药物反应模型从随机对照试验的数据中学习，展示了这个框架在识别最佳药物剂量问题上的应用。我们发现，使用治疗效果选择剂量的标准方法会导致不必要的伤害，而我们的反事实方法允许我们识别出大大减少伤害而不损失疗效的剂量。
harmbenefitcausal modelscounterfactual reasoningdrug doses
发现论文，激发创造
  • 反事实风险评估、评价和公平性

    本文提出了针对算法风险评估工具的反事实度量方法，并使用双重稳健估计方法估算反事实度量。作者提出的度量方法更适合在决策上下文中使用；因此，纵观标准公平度量和反事实度量，两者仅在特定条件下才能同时成立，本文提供了理论结果和实证结果以证明他们的方法优于标准做法。

    Aug, 2019

  • 无伤害：一种针对安全强化学习的对比方法

    通过对学习策略与默认的安全策略进行比较，我们提出了一种对反事实伤害进行约束的方法，在考虑不确定性和复杂环境表示的基础上实现了学习更安全策略的目的。

    May, 2024

  • 基于预测集的决策支持系统中的反事实伤害控制

    基于预测集的决策支持系统通过缩小潜在标签值的集合（即预测集），并要求用户始终从预测集中预测标签值，来帮助人们解决多类别分类任务。本文的目标是通过设计控制决策支持系统频繁造成伤害的系统。通过结构性因果模型的理论框架来对伤害概念进行特征化，并在只使用人类自身的预测的情况下，估计系统造成伤害的频率，然后引入计算框架，使用符合性风险控制来设计基于预测集的决策支持系统，并验证了准确性和反事实伤害之间的权衡关系。

    Jun, 2024

  • 有害因果分析

    在自动化系统越来越广泛的应用下，需要建立一个法律和监管框架，以便确定这类系统何时及如何对他人造成伤害。然而对于定义伤害并无一定之规的问题，我们提出了一种基于因果模型和对比因果分析的质性伤害定义方法，用于处理多种伤害示例，并显示其对自动化系统相关情境推理的重要性。

    Oct, 2022

  • 公平临床风险预测的反事实推理

    本文使用机器学习系统支持决策制定在医疗保健中的问答涉及使用电子医疗记录中的观察性数据中隐含的偏见，进而进一步发展了组公平性标准，以在个体层面上扩展增益计数事实公正标准，探讨扩增的标准是否可以应用于使用观测性电子健康记录数据的病人长住和死亡的公平模型的开发。通过一个假设因果图的变分自动编码器来执行反事实推理，提供了一种在学习生成模型的背景下，在公平维护与预测性能下降之间权衡的方法。

    Jul, 2019

  • 反事实公平机会：利用反事实推理测量决策模型公平性

    本研究提出一种利用反事实推理揭示机器学习和去偏见模型不公平行为的方法，在三个不同数据集上获得验证。

    Feb, 2023

  • 在不确定性下对反事实干预进行估计

    通过采用贝叶斯层级模型来建模不确定性，本文解决了连续设置中对反事实分布的模棱两可性问题，特别是在贝叶斯变形高斯过程中，允许非高斯分布和非加法噪声，成功应用于一个合成和半合成的案例，并展示了在算法补救下游任务中的性能。

    Sep, 2023

  • 反事实公平性

    本文提出了一个利用因果推断工具来建立公正性模型的框架，以避免机器学习在保险、贷款、雇佣和预测执法等领域的不公正决策，避免造成基于不公正数据的歧视性做法，以法学院成功的公平预测为实际问题进行了实证研究。

    Mar, 2017

  • 基于反事实模型的可靠决策支持

    本研究提出一种新的监督学习目标，预测反事实情况而不是预测现有行动策略下的结果，以支持决策制定，使用我们提出的反事实高斯过程（CGP）来预测在未来行动序列下连续时间轨迹的反事实未来进展，并证明其在风险预测和个体化治疗规划等决策支持任务上的优势。

    Mar, 2017

  • 模拟对事实的反事实情况

    提出一种用于模拟具有离散和连续变量条件的反事实分布的算法，该算法可用于粒子滤波器，可应用于信贷评分中的公平性分析。

    Jun, 2023