Apr, 2018

认知偏差可能对基于规则的机器学习模型解释的影响综述

PDF
TL;DR讨论机器学习模型的可解释性应当从认知科学的角度考虑，并探讨认知偏差对于人类理解基于数据挖掘发现的逻辑规则的可解释机器学习模型的影响，提出算法设计师可以采取的去偏执技巧。该综述旨在弥合认知心理学和机器学习之间的差距，但需要进一步关注机器学习领域的系列实证研究。
interpretabilitymachine learningcognitive sciencecognitive biaseslogical rules
发现论文，激发创造
  • 数据模糊性和认知偏差对机器学习模型在人道主义决策中可解释性的影响

    本研究旨在研究数据模棱两可和认知偏差对机器学习算法在人道主义决策中可解释性的影响。

    Nov, 2019

  • BIASeD: 将非理性引入自动化系统设计

    本文主张人工智能系统需要模拟、理解、甚至复制人类的认知偏差，在人机协作中扮演更加重要的角色，并提出了关于人类认知偏差和人工智能之间相互作用的研究议程及三个感兴趣的广泛领域，并为具有更好对人类偏见的人工智能系统的设计方向提出了研究方向。

    Oct, 2022

  • 操纵与测量模型可解释性

    在高风险领域中，机器学习模型已经被广泛用于辅助决策，而开发可解释的模型的兴趣逐渐增加。然而，是否这些模型能实现预期的效果，我们缺乏实验研究来证明。本研究开展了一系列预先注册的实验，展示了具有不同要素的模型，以调查它们的可解释性。结果表明，模型越透明、特征越少，参与者越能成功地模拟模型的预测，但是参与者并没有更加倾向于紧密关注其预测，而拥有透明的模型却使参与者因信息过载难以检测和修正模型的重大错误。这些结果强调了开发可解释模型时实验测试的重要性。

    Feb, 2018

  • 对解释的人类可解释性评估

    研究探讨了通过对模拟响应、验证建议响应、确定建议响应的正确性并观察其输入变化等三项特定任务，来解释可解释的 AI 的互动可能。结果表明，特定的正则化可以用于优化可解释性，而一些共同点和设计原则也可能存在于解释的系统之间。我们的结果表明，认知块比变量重复更影响表现，并且这些趋势在任务和领域中保持一致。

    Jan, 2019

  • 模型可解释性的人类评估的挑战与机遇

    本文提出了 “描述性解释” 和 “说服性解释” 的区别，讨论了功能解释与认知功能和用户偏好可能相关的推理，并提出了两个研究方向来消除认知功能和解释模型之间的歧义，保持准确性和可解释性之间的权衡控制。

    Nov, 2017

  • 为何需要有偏倚的人工智能 —— 如何通过引入认知和伦理机器偏差来增强人工智能系统

    本文阐述了人类认知偏差在人工智能领域中的重要性，并提出了在学习算法中结构上实施认知偏差以及为选择具有道德价值的社会或行为特征的偏向训练刺激应用过滤机制，结合七个具体的偏见实现情景案例，将来自认知科学和伦理学的启示应用于人工智能领域，是对重新评估机器偏见道德意义的探索和实施认知偏差到机器中的首次尝试。

    Mar, 2022

  • 大型语言模型中的认知偏差：谨慎乐观与反康德改良主义

    大型语言模型的偏见与认知偏差的评估：对现有模型中偏见的普遍性持谨慎乐观态度，并承认存在一些真实的偏见，并努力减少其存在。同时，讨论了人类认知偏见的理性以及非代表性数据在误导模型偏见方面的哲学含义。

    Nov, 2023

  • 因果学习：可解释机器学习的新视角

    本文概述了因果分析的基本背景和关键概念，总结了最近的可解释机器学习的因果方法，讨论了评估方法质量和因果可解释性中的开放问题。

    Jun, 2020

  • 机器学习的因果可解释性：问题、方法和评估

    本文综述了因果可解释模型的问题和方法，并深入探讨了用于衡量解释度的评估度量标准，从而帮助实践者了解每种评估度量标准适用于哪些场景。

    Mar, 2020

  • 可解释机器学习技术

    本文综述了提高可解释机器学习模型的技术，并讨论了未来研究的关键问题，如设计用户友好的解释和开发全面的评估指标，以进一步推动可解释机器学习的发展。

    Jul, 2018