Sep, 2012

反事实推理与学习系统

PDF
TL;DR本文介绍如何利用因果推断来理解与环境交互并预测系统变更的后果，从而使人类和算法能够选择改变，以改善系统的短期和长期性能。作者还通过对 Bing 搜索引擎广告放置系统的实验来说明他们的方法。
causal inferencelearning systemsenvironmentpredictionsad placement system
发现论文，激发创造
  • AI 系统的反事实解释是否会扭曲普通用户对世界因果直觉的理解？如果是，我们能纠正吗？

    本文探讨了 AI 系统中基于反事实进行的解释在实际应用中所带来的影响以及其引发的因果信念变化，通过实验证明了提供 AI 系统预测的反事实解释会影响人们对于该预测所关联的特征是否具有因果性的判断，其结果表明指出 AI 系统只能捕捉到相关关系而非因果关系可以减轻其影响。

    May, 2022

  • 假设干预下的临床结果预测 —— 用表示学习框架进行反事实推理

    本研究提出了一种新的表示学习框架 - 部分概念瓶颈，该框架将反事实解释作为风险模型的嵌入式属性，有助于研究人员和临床医生改进个性化护理，探索干预的假设性差异效应。

    May, 2022

  • 反事实协作推理

    本文研究了因果推理和逻辑推理在机器智能的应用下的关系，提出了 Counterfactual Collaborative Reasoning (CCR) 方法，通过进行反事实逻辑推理对数据进行增强，提高了模型性能和透明度。实验结果表明，CCR 方法显著优于使用隐式数据增强的模型和未增强的模型，并且能够生成反事实解释，提高模型的透明度。

    Jun, 2023

  • 借助因果推理增强语言理解

    本研究提出了反事实推理模型，在学习少量反事实样本的基础上，通过生成对于每个正面事实样本的代表性反事实样本，并使用回顾模块根据对比反事实和正事实样本来检查模型预测，从而模拟对于困难测试样本的人类反事实思维。该方法在情感分析和自然语言推理方面的广泛实验验证了其有效性。

    Jun, 2021

  • 用概率图模型进行反事实推理以分析社会生态系统

    因果推理和反事实推理是数据科学中的新兴方向，尤其适用于通常无法获取实验数据的环境和生态科学领域。本文提出了一个在社会生态系统领域内边界不可识别查询的新技术，并发现传统统计分析方法无法揭示变量之间的关系本质，其中反事实推理变得非常有价值。

    Jan, 2024

  • 可解释人工智能中的反事实和因果：理论、算法和应用

    本研究对可解释人工智能中反事实和因果关系的分类算法进行了系统考察，发现当前的模型无法促进因果性，提出了新的方向和挑战。

    Mar, 2021

  • 推理反事实以改善人类逆强化学习

    为了让人类能够很好地与机器人协作，提出了一种包含逆强化学习和演示方法，在选择展示时考虑了人类对机器人决策的预期，使用了一种新的测试难度测量方法，并发现这种方法在易于测试的情况下降低了人类的性能，但在难于测试的情况下增加了性能。

    Mar, 2022

  • 元强化学习推理因果关系

    研究通过元强化学习是否可以发现因果推理，在这项研究中，我们训练了一个递归神经网络对包含因果结构的一系列问题进行无模型强化学习，证明了该代理可以在新的情况下进行因果推理，从观测数据中得出因果推断结果以及进行反事实预测，我们提出这种学习方法也可以在复杂的推理场景中进行因果推理，同时该工作还提供了新的强化学习结构探索策略。

    Jan, 2019

  • 强化学习的反事实解释

    通过重新定义反事实解释方法，结合强化学习的特点，探索在强化学习领域实现反事实解释的方法和研究方向。

    Oct, 2022

  • 对策说明的随机优化

    通过提出一种基于随机学习的框架和特征选择模块来平衡反事实解释的权衡，本研究在生成可行的反事实解释方面展现了其有效性，并表明其比基线更加多样化和高效。

    Sep, 2022