Patrick Altmeyer, Arie van Deursen, Cynthia C. S. Liem
TL;DR使用 Julia 编写的 CounterfactualExplanations.jl 软件包可生成黑盒模型的因果解释和算法性补救措施,为改善不良结果提供可行的和实用的改变方案,并帮助解释任意预测模型。
Abstract
We present CounterfactualExplanations.jl: a package for generating
counterfactual explanations (CE) and algorithmic recourse (AR) for black-box
models in Julia. CE explain how inputs into a model need to change t
对于机器学习模型的预测结果影响的人来说,反事实解释(CEs)被认为是提供理想算法解决方案的。然而,最近的工作揭示了与获取 CEs 的最新方法相关的严重问题的存在,因此需要采取技术来减轻风险。在这项调查中,我们回顾了快速发展的稳健 CEs 领域的研究,并对其所考虑的稳健性形式进行了深入分析。我们还讨论了现有解决方案及其限制,为未来的发展提供了坚实的基础。