Jul, 2022

自我解释社技系统的学习分类器系统

PDF
TL;DR本文提出应用基于规则的机器学习方法 —— 学习分类器系统来促进透明决策，并介绍了一些提高它的技巧。我们还提出了七个问题的模板来评估特定应用领域的可解释性需求，并在制造情景的面试案例中演示了其用法。结果表明这些答案为良好设计的 LCS 模型提供了有用的见解，并要求利益相关者积极与智能代理进行互动。
decision support systemslearning classifier systemstransparent decision makingexplainability needssocio-technical systems
发现论文，激发创造
  • 学习分类器系统中的规则发现和全局解决方案组合分离

    本文针对数字代理支持关键决策的应用难以获得信任这一难题，提出了基于规则学习的系统并设计透明易懂的模型，其中规则条件和问题解决方案的组成是分开演化的，允许用户特别定制模型以适应可解释性的要求。

    Feb, 2022

  • 决策支持和推荐系统中解释的系统审查和分类

    本文系统审查了建议系统中的解释问题，探究了其目的、生成方式、呈现方式和评估方式，并提出了一个全面的分类法，其中包括解释目标、响应性、内容和呈现等方面，同时还识别了许多未解决的挑战。

    Jun, 2020

  • 使用匹兹堡学习分类器系统进行可解释性强化学习：与 XCS 的比较

    本文介绍了在强化学习领域中 XAI 方法的一种组成部分 —— 基于规则的演化机器学习系统 Learning Classifier Systems (LCSs)，开发了两种新的 Pittsburgh LCSs (PPL-DL and PPL-ST)，并在 FrozenLake 环境中与 Michigan 系统 XCS 进行了实验比较，结果表明 PPL-ST 可以在高环境不确定性情况下与 XCS 相比表现更好，适合在 RL 领域中产生可解释的策略。

    May, 2023

  • 自解释式学习

    通过学习自我解释的过程，我们介绍了一种名为 LSX 的新学习范式，旨在增强人工智能模型的泛化能力，减轻混杂因素的影响，并提供更具任务特异性和忠实度的模型解释。

    Sep, 2023

  • 黑盒决策系统的本地基于规则的解释

    本文提出了一种名为 LORE 的黑匣子探明方法，能够从逻辑和反事实规则两个层面解释黑匣子机器学习模型的决策原因，从而提高其在社会敏感和安全关键环境中的可用性和透明度。

    May, 2018

  • 鼓励建设性适应的线性分类器

    本文提出了一种基于分类器的学习方法，通过设计合理的学习策略，鼓励决策主体改变其特定属性，从而在实际场景中提高机器学习算法的预测精度并避免信息操作。

    Oct, 2020

  • 个性化可信决策集：提高临床决策支持系统的可解释性

    本研究提出了一种新型的临床决策支持系统，结合了一组规则和机器学习算法，提供了全局和局部的可解释性，并使用机器学习算法预测每个规则在特定患者的正确性可能性，以更好地提高预测性能，并提高个性化解释能力，这些元素的结合可以帮助医生更好地评估患者的情况，提高医生的决策能力。

    Jul, 2021

  • 可解释知识驱动系统基础

    本文对可解释人工智能系统进行了历史概述，重点介绍了知识驱动的系统，在专家系统、认知助手、语义应用和机器学习领域的应用，提出了新的解释和可解释知识驱动系统的定义，以填补现有方法的不足并使解释更加用户和上下文关注。

    Mar, 2020

  • 工业质量控制的交互式解释性人工智能系统

    提出了一种基于交互式支持系统，结合基于知识驱动和数据驱动的机器学习方法以及人类专业知识，并实现用户反馈与决策透明解释，减轻人类负担且尊重其专业性和主观能动性的方法，以及用于工业质量控制中的良品检测任务的模式分类算法。

    Mar, 2022

  • 对解释的人类可解释性评估

    研究探讨了通过对模拟响应、验证建议响应、确定建议响应的正确性并观察其输入变化等三项特定任务，来解释可解释的 AI 的互动可能。结果表明，特定的正则化可以用于优化可解释性，而一些共同点和设计原则也可能存在于解释的系统之间。我们的结果表明，认知块比变量重复更影响表现，并且这些趋势在任务和领域中保持一致。

    Jan, 2019