ICLRMar, 2024

VTruST: 基于可控价值函数的数据中心可信 AI 的子集选择

PDF
TL;DR提出了一种基于数据的可控信任 AI（DCTAI）框架 VTruST，该框架允许用户控制构建训练数据集时信任度指标之间的权衡，通过提出一种在线值函数为基础的训练数据子集选择算法来实现高效的 DCTAI 框架。实验结果表明，VTruST 在社交、图像和科学数据集上优于现有基线算法，并且 VTruST 生成的数据值可为不同信任度指标提供有效的数据中心解释。
发现论文，激发创造
  • 值得信赖的人工智能的调查、分类和未来方向：战略决策的元决策

    提出信任 AI 系统是一个元决策的过程，针对不透明的 AI “黑匣子” 提出了 TAI 的新的分类法，涵盖了解释性，权威性和基础三个关键领域，并建立了十个维度来度量信任。旨在通过这个分类法，从战略决策的角度探索不同的 TAI 方法。

    Jun, 2023

  • 可信人工智能：决定何时决策

    利用创新的可信人工智能（TAI）框架，通过结合 AI 的三个关键组成部分：表示空间、损失函数和优化器，以及十二个 TAI 属性，来解决决策制定中信息可信性的难题。该框架被用于实验，在科技行业的战略性投资决策中，应用给定数据集训练出的最优预测模型。研究者还展望了 TAI 研究的未来方向。

    Nov, 2023

  • U - 可信模型：决策中的可靠性、能力和信心

    通过提出一种新的信任框架，基于概率框架和校准，并使用 AUC 指标进行评估，从而解决了关于预测模型中偏见和歧视的信任问题。

    Jan, 2024

  • 面向用户为中心的沉浸式虚拟环境可信人工智能度量

    本研究探讨了现有方法对于以用户为中心的服务生态系统中 AI 信任度评估的适用性，并提出了一种面向系统化且以用户为中心的值得信赖的 AI 研究议程。

    Feb, 2022

  • TRUST XAI: 模型无关的人工智能解释及工业物联网安全案例研究

    提出了一种通用的解释型 AI 模型 TRUST，采用因子分析、互信息和多模态高斯分布等方法，用于解释海量数字数据应用中黑盒子型 AI 的输出，案例研究表明该模型在工业物联网网络安全领域表现良好，对新的样本的解释成功率平均可达到 98%，且在性能、速度和解释方式等方面优于流行的 LIME 模型。

    May, 2022

  • 可控信任权衡的审计及合成数据生成

    本文提出一个审核框架，围绕偏见和歧视预防、与真实数据的一致性、效用、鲁棒性和隐私保护进行综合评估，并引入信任指数对多个合成数据集进行排名，通过审核和认证报告连接不同利益相关者。

    Apr, 2023

  • 社会与法律约束下的深度学习数学算法设计：算法透明性要求

    通过建立透明的算法模型，研究论文探讨了深度学习的可靠性和信任度，使用数学框架分析了不同计算模型下逆问题的可信解决方案，发现 Blum-Shub-Smale Machines 具有潜力在广泛条件下建立可信的解决方案。

    Jan, 2024

  • AAAI FSS-19: 人性化人工智能：人工智能模型和数据的可信度研究论文集

    研究旨在提高人工智能系统的可信度和信任度，开发能够适应实际应用场景的人工智能系统，并将人类放在其中心地位，使其能够有效地使用系统，理解输出和解释结果以满足监管委员会的要求。

    Jan, 2020

  • 基于 Dempster-Shafer 理论的可信人工智能应用 —— 胎儿脑 MRI 分割

    提出了一个基于 Dempster-Shafer 理论的备选方法和故障安全机制的可靠 AI 理论框架和实际系统，可有效改善胎儿脑 MRI 的深度学习模型在不同医学中心获取的影像及病理情况下出现的标记误差问题。

    Apr, 2022

  • 超越马氏距离评分的文本 OOD 检测方法

    该论文介绍了一个新的用于识别分布转移的未监督 OOD 检测器 TRUSTED，它基于变压器架构和数据深度的概念，实现了高效计算和最好的性能，能够有效地提高深度学习在实际应用中对于自然语言处理系统的适用性。

    Nov, 2022