Jan, 2021

自然语言处理应用描述中的透明度建模

HTML
PDF
TL;DR使用基于神经语言模型的概率度量直接建模公开透明度，证明这些度量与用户和专家对系统透明度的观点相关，并在一些真实的NLP系统描述文档中展示这些度量的用途，量化透明度、混淆和用户感知之间的关系。
发现论文，激发创造
  • 扩展可解释性：AI系统的社会透明度

    介绍和探索社交透明度(ST)的概念，该概念将社会组织背景融入到解释人工智能决策的过程中，旨在提高人工智能决策的信任度、改善决策过程、促进组织集体行动和增强说服力。

    Jan, 2021

  • 透明度的图灵测试

    该研究旨在通过构建透明的AI系统来提高人机交互的信任关系，并通过引入图灵测试来建立可信度评估体系，以便解释机器学习模型的结果，证明透明的ML方法能够通过人机交互获得信任，但也需要注意到人类与机器的辨别能力。

    Jun, 2021

  • AI教育透明度指数框架

    本论文提出了一个透明度指数框架，着眼于透明的人工智能教育系统在数据收集、实现职责和安全性等方面的实现，并展示了透明度如何实现其他如可解释性和责任方面的道德人工智能纬度。

    May, 2022

  • 用户是AI透明度的北极星

    本文中，我们阐述了明确的AI透明度目标，即以用户为中心、恰当的透明度和诚实的透明度。我们进行了广泛的文献调查，将透明度概念的许多相似聚类与我们的目标联系起来，以便政策制定者、利益相关者和从业者能够交流具体需求和提供适当的解决方案。

    Mar, 2023

  • 推荐系统中的信任与透明度

    本研究论文探讨了推荐系统中信任与透明度的概念、衡量方法以及实现策略，强调了进一步研究这些概念及其相互关系的必要性。

    Apr, 2023

  • AI政策中的可解释性：欧盟、美国和英国的沟通、报告、法规和标准的关键回顾

    本文通过对欧盟、美国和英国政策文件的调查，针对可解释性人工智能的技术和社会影响进行了主题和缺口分析。发现政策通常基于对解释的粗略观念和要求。最终提出了一组关于如何解释AI系统的建议，其中包括定义、可行性、可用性以及分配解释提供者的责任。

    Apr, 2023

  • LLMs时代的人类中心研究路线：人工智能透明度

    在大型语言模型与透明度的讨论中，我们必须考虑不同利益相关者在不同情境下的需求，并构建在人们处理、交互和使用信息方面所了解的经验基础上的透明度方法, 这是一篇关于应对LLM这个新时代带来的人工智能透明度挑战的文章.

    Jun, 2023

  • 实现人工智能功能透明度与有意义的可解释性之路

    人工智能的功能透明性在透明系统中遵守设计框架中成为关键挑战，要求跨学科合作来推进透明和可解释的人工智能系统的发展。

    Oct, 2023

  • 公正与可解释性之间的相互作用

    建立可靠且值得信赖的自然语言处理应用程序，模型需要在不同人群之间既公平又可解释。本研究通过两个文本分类数据集进行实验证明，公平和可解释性并不总是相互影响的，因此需要同时考虑这两个目标，以获得更好的结果。

    Oct, 2023

  • 照古镜：企业 AI 知识系统的透明度意义与挑战

    人工智能知识系统与透明度的挑战，包括知识与人的关联性，对组织和个体视野的影响，以及系统透明度、程序透明度和结果透明度等方面，需要引起进一步研究和关注。

    Jan, 2024