ICMLJun, 2024

DISCRET：合成用于治疗效果估计的准确解释

PDF
TL;DR为解决诸如黑箱模型无法提供解释、后期解释器缺乏忠实性保证以及自解释模型极大损害准确性等问题，我们提出了 DISCRET，一个自解释的个体治疗效应估计框架，通过从大搜索空间中高效地合成忠实的基于规则的解释来有效地解决该问题，并在涉及表格、图像和文本数据的多样任务中对其进行了评估，证明其优于最佳自解释模型，并且提供了与最佳黑箱模型相媲美的准确性和忠实的解释。DISCRET 可在此链接处获得。
individual treatment effect estimationai modelsexplanationsself-interpretable ite frameworkrl algorithm
发现论文，激发创造
  • 解释性之路的通行需面对偏见：衡量解释的公平性

    本文通过在金融、医疗保健、大学招生和美国司法系统等四个领域的实际数据中审计了不同保护子组的解释质量，发现不同子组的近似质量显着不同，而解释深度学习模型的近似质量差异存在着公平性挑战，需要进一步解决。

    May, 2022

  • 可解释的公平框架：物质使用障碍治疗结束预测

    发展和部署可解释模型对提高其可信度和采用率至关重要，本研究旨在开发和实施一个同时解决公平性和可解释性问题的框架，通过优化性能建立模型，采用处理中的方法减轻模型对种族和性别等敏感属性的偏见，进而通过探索特征重要性的变化来探索和可视化模型变化的解释，结果表明，我们的公平增强模型保持高的敏感性，同时提高了公平性，并提供了对临床决策和资源配置有帮助的公平改善洞察。

    Apr, 2024

  • 忠诚度度量中的不一致问题

    解释性人工智能（XAI）领域旨在解释黑盒机器学习模型的工作方式，而选择合适的方法以及衡量本地解释的忠实度的当前指标缺乏一致性，使得使用者在选择最忠实的解释时感到困惑。

    Nov, 2023

  • 不平衡观测数据决策中的主动学习

    本文探讨基于机器学习的个性化决策支持方法，通过学习模型来预测个体治疗效果 (ITE)，并提出了用估计的 ITE 模型的 Type S 错误率来评估决策的可靠性，并将估计的可靠性作为主动学习的标准来收集新的观测数据，从而演示了两个决策任务中的有效性。

    Apr, 2019

  • 构建学习的忠实理性化

    提出了一种名为 FRESH 的简化模型解释方法，通过使用任意的特征重要性分数来导出二进制标签以训练提取器，再用提取器提供的片段训练独立分类器模块，从而构成可信解释，具有超越端到端方法的预测性能优势并更容易实现。

    Apr, 2020

  • 个体化治疗效果估计中的对抗性去混淆

    该论文提出用对抗训练来选择性平衡混淆因素，以解决观察研究中个性化治疗效应（ITE）估计的基本问题，并通过反事实推断帮助估计 ITE。在合成和真实世界数据集上的实证结果表明，该方法改善了现有方法，在 ITE 估计中实现了更低的误差。

    Oct, 2022

  • 在复杂的多智体场景中估计反事实治疗结果的时间变化

    使用可解释的多智能体系统反事实循环网络进行干预效应评估的长期预测方法，最终在自动驾驶、生物智能体和篮球计分方案的模拟实验与实际数据中证明了其优于传统方法的效果。

    Jun, 2022

  • GRACE: 生成简洁明了的对比样本以解释神经网络模型的预测

    提出了一种名为 GRACE 的新的解释深度学习模型在表格数据方面的预测的方法，它基于干预与对比这两个思想，并生成易于理解的文本解释，相较于竞争基线方式，其生成的解释直观易懂且提高了用户决策准确性达 60%。

    Nov, 2019

  • 可解释的个性化实验

    本文介绍了 Meta 公司实现和部署生产环境中可扩展、可解释的个性化实验系统，用于学习对黑盒异质性处理效果模型的解释和生成可解释的个性化政策，并在公共数据和 Meta 使用案例上评估系统中使用的方法并讨论开发系统过程中的经验教训。

    Nov, 2021

  • 对抗式不忠学习用于模型解释

    提出了一种 MEED 框架，其中包括了用于模型解释的实例特征选择技术和基于对抗性不忠诚学习的解释器的设计，以及整合了有效解释方法作为良好的先验知识的扩展， 实验结果表明该方法效果优越，可应用于数据挖掘和知识发现。

    Jun, 2020