Feb, 2022

人工智能的信任：解释性并非必要或充分，而黑盒交互是必要和充分的

PDF
TL;DR人类如何信任人工智能及如何评估其可信度及可靠性这是应用机器学习中最为基础的问题。基于统计学习理论和社会视角，我们提出一种将人工智能作为工具的框架，即从区别人机信任与人机人信任的角度出发，运用行为证书来预测模型的行为并澄清了解释能力对于信任的贡献以及模型行为对于信任的重要性。
trustartificial intelligenceinterpretable mlbehavior certificatestrustworthy ai
发现论文，激发创造
  • Cybertrust: 从可解释到可操作和可解释的 AI (AI2)

    AI 系统需要可解释与可操作特性构建决策分析视角，提高用户信任度，通过用户信心的定量化和可视化，确保系统预测的稳定性和广泛应用。

    Jan, 2022

  • 可解释的深度学习：解释、可解释性、可信度及其他

    本文综述了神经网络的解释工具和算法，提出了一种新的分类方法，介绍了解释结果的评估方法和信任度算法的应用，讨论了深度模型解释与鲁棒性和借鉴解释的联系，并介绍了一些开源库。

    Mar, 2021

  • 不要信任，总是验证：可信 AI 的路线图？

    本文对基于人工智能技术的系统的可验证性与数据存在的偏差问题进行了讨论，并提出了可信 AI 所需满足的一些属性和模型。

    Jun, 2022

  • 信任 AI 与可信机器学习技术之间的关系

    本研究提供了一种系统的方法来将社会科学信任概念与建立在人工智能服务和产品上使用的机器学习技术相关联，探讨了四种类别的机器学习技术 (公平性、可解释性、可审计性和安全性) 如何影响人们的信任，并介绍了在 AI 系统生命周期的不同阶段建立信任的技术需求。

    Nov, 2019

  • 谁可以信任，如何以及为什么：揭开人工智能伦理原则、可信度与信任的藪蛮

    整理了有关人工智能信任和人工智能的可信度的文献概述，强调了需要更明确区分这些概念并获取更多实证证据以了解人们信任行为的要素。指出对人工智能的信任不仅涉及对系统本身的依赖，还包括对人工智能开发者的信任。伦理原则如可解释性和透明性通常被认为能提高用户的信任，但关于这些特点如何实际影响用户对系统可信度认知的实证证据并不丰富或不太明确。应将人工智能系统视为社会技术系统，设计、开发、部署和使用系统的人员与系统本身一样重要，才能确定系统是否值得信任。忽视这些细微差别，人工智能的信任和可信度有可能成为针对任何人工智能系统的模糊术语。

    Sep, 2023

  • 量化机器学习系统的可解释性和可信度

    本文提出了一种量化解释性方法质量的量化度量，并在众包实验中通过信息传输速率得到了实证证据，从而说明解释性方法的价值。同时，还提出了一种信任度量，以检测人类决策是否过度偏向机器学习预测。

    Jan, 2019

  • 打造可理解的人工智能的挑战

    本文旨在探讨人工智能在关键任务中的应用，提出了增强人工智能可解释性的重要性，并总结了当前构建可解释模型及说明方法的研究进展和关键方向。

    Mar, 2018

  • 使用机器学习设计可解释决策支持系统是什么？

    本文提出增强学习可用于学习不同用户可解释的模型，由此建立他们对机器学习模型的信任。通过与医生交互，基于神经网络模型，设计了一个基于强化学习的临床决策支持系统，结果表明，机器学习专家无法准确预测哪个系统输出将最大化临床医生对底层神经网络模型的信心，这些结果对将来机器学习可解释性研究以及机器学习在医学中的应用都具有广泛的意义。

    Nov, 2018

  • 人工智能模型语义可解释性

    本研究从广阔的角度观察模型可解释性，超越了机器学习的范畴，涵盖了分布语义学和模糊逻辑等不同的人工智能领域。我们根据模型的性质和它们引入可解释性方面的方法进行分类，并分析每种方法如何影响最终用户。同时指出还需要解决的问题，以提供更以人为本的解释性解决方案。

    Jul, 2019

  • 人工智能在协同工作中可解释性和可接受性要求

    该论文探讨了需求透明度和可接受性以建立人类对 AI 的信赖感，具体介绍了开发者和最终用户在信息需求方面的差异以及信任在人工智能系统中的作用。

    Jun, 2023