政策评估中的因果机器学习透明度挑战 —— 提高可用性与责任认定

Oct, 2023

政策评估中的因果机器学习透明度挑战 —— 提高可用性与责任认定

Transparency challenges in policy evaluation with causal machine learning -- improving usability and accountability

Patrick Rehill, Nicholas Biddle

TL;DR通过可解释的人工智能工具和符合可解释人工智能原则的模型简化，本研究探讨了透明度问题在公共政策评估中对因果机器学习的影响，并应用到一个案例研究中，展示了现有工具对于理解黑盒预测模型的不适用性，以及将模型简化以提高可解释性会导致误差的不可接受增加，最终得出需要新工具来正确理解因果机器学习模型及其拟合算法的结论。

Abstract

causal machine learning tools are beginning to see use in real-world policy evaluation tasks to flexibly estimate treatment effects. One issue with these methods is that the machine learning models used are generally black boxes, i.e., there is no globally interpretable way to understa

causal machine learning transparency problems policy evaluation explainable ai interpretable ai

发现论文，激发创造

机器学习的因果可解释性：问题、方法和评估

本文综述了因果可解释模型的问题和方法，并深入探讨了用于衡量解释度的评估度量标准，从而帮助实践者了解每种评估度量标准适用于哪些场景。

Mar, 2020

机器学习方法在政策制定中异质治疗效果估计的公平性问题

政府在制定和执行政策时，灵活生成异质治疗效应估计的因果机器学习方法可能是非常有用的工具。本文认为，标准的 AI 公平性方法并不适用于所有因果机器学习应用，因为因果机器学习通常使用建模来为最终的决策者提供信息，而 AI 公平性方法则假设模型直接做出决策。我们将这些情境分别定义为间接和直接决策，认为政策制定最好视为一项联合决策，其中因果机器学习模型通常只具有间接权力。我们提出了此情境下的公平性定义，即一个模型能为决策者提供准确做出关于公正政策结果的价值判断所需的信息，并指出因果机器学习模型的复杂性可能使其难以实现。解决方法不是传统的 AI 公平性调整，而是谨慎的建模和意识到这些方法可能鼓励的一些决策偏差。

Sep, 2023

因果学习：可解释机器学习的新视角

本文概述了因果分析的基本背景和关键概念，总结了最近的可解释机器学习的因果方法，讨论了评估方法质量和因果可解释性中的开放问题。

Jun, 2020

一个解释并不能适用于所有情况：交互式解释对于机器学习透明度的承诺

通过交互式机器学习，将对比解释应用于黑盒机器学习系统，个性化调整其条件语句并通过提问 “What if？” 的方式提取更多解释，从而提高系统的透明度。

Jan, 2020

文本复杂推理的可追溯和可解释方法

研究复杂推理任务的机器学习模型的问责和透明度方法，通过暴露潜在漏洞和解释模型推理过程来提高利益相关者的信任度和发现模型决策中的错误和不公平性。

Nov, 2022

机器学习透明性的什么和怎样：使用可互操作算法组件构建定制可解释性工具

介绍了通过解释性表现组合、数据采样和解释生成构建和评估定制模块化替代解释器的过程的手册，以帮助了解人工智能和机器学习算法的可解释性技术。

Sep, 2022

可解释的深度因果学习用于调节效应

本文介绍一种新的深度反事实学习架构，旨在解决因果机器学习模型中的可解释性和定向正则化问题，并演示了其在估计个体治疗效果方面的应用。

Jun, 2022

操纵与测量模型可解释性

在高风险领域中，机器学习模型已经被广泛用于辅助决策，而开发可解释的模型的兴趣逐渐增加。然而，是否这些模型能实现预期的效果，我们缺乏实验研究来证明。本研究开展了一系列预先注册的实验，展示了具有不同要素的模型，以调查它们的可解释性。结果表明，模型越透明、特征越少，参与者越能成功地模拟模型的预测，但是参与者并没有更加倾向于紧密关注其预测，而拥有透明的模型却使参与者因信息过载难以检测和修正模型的重大错误。这些结果强调了开发可解释模型时实验测试的重要性。

Feb, 2018

移动分析中因果推断的可解释性和鲁棒性机器学习视角

本文总结了基于因果推论对深度学习进行的可解释性和稳健性研究的最新进展，强调了交通运输领域深度学习基础的可解释性和稳健性问题，并提出发展因果学习模型应用于移动性分析的机遇。

Oct, 2022

不确定性作为透明度的一种形式：测量、沟通和使用不确定性

本文介绍了一种补充的透明度形式 —— 估计和传达模型预测的不确定性，探讨了如何使用不确定性来缓解模型的不公平性、增强决策制定，并在现有机器学习管道中集成不确定性所需的信息。

Nov, 2020