Oct, 2023

可预测的人工智能

PDF
TL;DR介绍可预测人工智能（Predictable AI）的基本概念和挑战，强调实现可预测性对于培养 AI 生态系统的信任、责任、控制、协调和安全至关重要，应该优先考虑；本文旨在阐明可预测人工智能的问题、假设和挑战，并呼吁寻找通往 AI 可预测性的途径，并概述这个新兴领域的潜在影响。
predictable aiindicatorstrustliabilitysafety
发现论文，激发创造
  • 可解释人工智能 (XAI)：概念、分类、机遇和挑战，助力负责任的人工智能

    本文综述了可解释人工智能（XAI）领域内的现有文献，并对未来的研究前景进行了探讨。我们提出了一种新的可解释性定义，针对各种机器学习模型提出了分类。同时，我们讨论了 XAI 面临的一系列挑战，如数据融合和解释性之间的折衷等。最终，我们的观点指向了 “负责任人工智能” 的概念，在其中强调了 AI 方法在实际组织中的实施中必须保证公平性、模型可解释性和可追溯性。

    Oct, 2019

  • 安全的人工智能 -- 如何实现？

    本文探讨了 AI 系统在不可预测的环境下操作时带来的挑战，提出了一种严格的工程框架，旨在最大程度地减小不确定性，从而提高对 AI 系统安全行为的信心。

    Jan, 2022

  • 探讨高水平人工智能的差异化风险和控制问题

    本文使用分层复杂系统框架对人工智能（AI）风险进行建模，并从公共和私营领域的领域专家收集调查数据以分类 AI 影响和可能性，结果显示强大的 AI 代理情景有更多不确定性，对 AI 对齐失败和影响寻求行为的关注增加以及对多智能体环境的信心增强。

    Nov, 2022

  • 使用 AI 预测 AI 的未来：在指数级增长的知识网络中进行高质量的链接预测

    使用 AI 技术构建基于真实世界数据的 Science4Cast 基准测试，并提出十种不同的方法来预测人工智能研究的未来研究方向，最终目的是为了更先进的研究建议工具。

    Sep, 2022

  • 打造可理解的人工智能的挑战

    本文旨在探讨人工智能在关键任务中的应用，提出了增强人工智能可解释性的重要性，并总结了当前构建可解释模型及说明方法的研究进展和关键方向。

    Mar, 2018

  • 人工智能的系统挑战：伯克利视角

    该论文探讨了人工智能的发展带来的挑战，提出了在系统、架构和安全方面的研究方向，以解决 AI 技术存储和处理数据量的限制，并提高数据隐私保护，以便这一技术能够更好地改善人们的生活和社会。

    Dec, 2017

  • 可解释人工智能应用于安全可靠自动驾驶的系统性综述

    人工智能在自动驾驶的感知和规划任务中表现出优越性能，但不透明的人工智能系统加剧了自动驾驶的安全保障难题。为了缓解这一挑战，我们首次对透明解释性人工智能方法在安全可信自动驾驶领域进行了全面系统的文献综述。我们分析了自动驾驶中人工智能的要求，并针对数据、模型和机构三个关键方面提出了透明解释性人工智能的基本原则。在此基础上，我们提出了五个透明解释性人工智能对安全可信自动驾驶的关键贡献，包括可解释设计、可解释的代理模型、可解释的监控、辅助解释和可解释的验证。最后，我们提出了一个名为 SafeX 的模块化框架，将这些贡献集成起来，为用户提供解释并同时确保人工智能模型的安全性。

    Feb, 2024

  • 构建可靠的深度学习系统

    介绍了人工智能技术的广泛应用和存在的问题，并提出了对 “AI 工程” 学科的需求，探讨了相关概念和需要解决的关键挑战。

    Oct, 2019

  • 自信的人工智能

    本文提出了 “自信 AI” 作为设计具有算法自信和用户信任的模型预测和报告结果的人工智能和机器学习系统的手段。自信 AI 的四个基本原则是可重复性，可信度，充分性和适应性，并分别用于探索当前人工智能 / 机器学习系统中的基本问题，共同提供自信 AI 的全面方法。

    Feb, 2022

  • 超越可解释人工智能：面向负责任人工智能的障碍

    透明度、可理解性和责任 AI 的局限性以及其与隐私、公平性和争议性等重要方面的联系。

    Sep, 2023