Sep, 2023

何时相信 AI: 神经网络认证的进展与挑战

PDF
TL;DR人工智能正在快速发展，并已成熟用于许多应用领域，如自主系统、医学诊断和自然语言处理。本文概述了确保人工智能决策安全的技术，并讨论了未来的挑战。
artificial intelligencedeploymentneural networkssafety assurancecertification
发现论文，激发创造
  • 不要信任，总是验证：可信 AI 的路线图？

    本文对基于人工智能技术的系统的可验证性与数据存在的偏差问题进行了讨论，并提出了可信 AI 所需满足的一些属性和模型。

    Jun, 2022

  • 没有法规就没有信任！

    机器学习在工业系统中的应用以及其安全性和合规性对于决策辅助等关键功能具有重要意义，然而，当前机器学习组件的低形式化程度和不确定性使得使用传统的关键系统工程方法难以验证和验证其安全性，因此需要制定适用于人工智能的规范和监管标准，提出可信的人工智能认证方法和工具。

    Sep, 2023

  • 构建可靠的深度学习系统

    介绍了人工智能技术的广泛应用和存在的问题，并提出了对 “AI 工程” 学科的需求，探讨了相关概念和需要解决的关键挑战。

    Oct, 2019

  • 神经网络自动验证：进展、挑战和展望

    本文讨论了神经网络在安全和保密方面应用的局限性，提出了一些自动推理技术来提供神经网络性能的保障，并且对现有的神经网络自动验证方法进行了综合分类和阐述，同时讨论了存在的局限性以及未来研究的方向。

    May, 2018

  • 可信人工智能指南 -- AI 评估目录

    人工智能（AI）在最近几年取得了显著进展，对经济和社会产生了重大影响。然而，仅当 AI 应用根据高质量标准开发并有效地防范新的 AI 风险时，AI 和基于其的商业模式才能充分发挥其潜力。此论文致力于解决 AI 应用可信度的问题，通过提供一个可信 AI 评估目录，旨在帮助开发人员和审计员以结构化的方式评估 AI 应用程序的可信度。

    Jun, 2023

  • 工业应用中人工智能的安全性和安全性方面

    本文讨论机器学习中的安全和安保问题，主要涉及神经网络分类、视觉应用和预测性维护等领域，指出了其中存在的安全和安保漏洞，为推广该技术提供了风险评估的方法。

    Jul, 2022

  • 值得信赖的人工智能：计算视角

    本文从计算的角度综述了 AI 可信赖性的最新技术，其中包含了六个方面：安全、非歧视与公平、可解释性、隐私、责任与审计能力以及环境福祉，旨在帮助读者理解可信赖 AI 的最新技术以及现实系统的应用。

    Jul, 2021

  • 用于安全关键应用的神经网络：挑战、实验与展望

    通过扩展现有认证标准中必不可少的可理解性、正确性和有效性等概念，我们提出了一种设计可靠人工神经网络（ANN）的方法论，并将其应用于一个具体的案例研究中，设计了一个高速公路 ANN 基础运动预测器，以确保安全特性，例如如果其右侧有其他车辆，则无法建议自车向右车道移动。

    Sep, 2017

  • 通过数据融合获得可认证的人工智能

    该论文回顾和提出了在采用、推广和维护人工智能（AI）系统方面存在的问题，并使用设计和操作测试和评估过程，探讨了确定性能界限以管理预期用途的机会。该论文提供了一个假想案例，使用图像数据融合支持 AI 对象识别可证明性考虑精度与距离。

    Nov, 2021

  • 人工智能的信任：进展、挑战与未来方向

    人工智能在我们的日常生活中越来越广泛地使用，尤其在各种应用、服务和产品中。因此，从用户角度来看，对人工智能的信任或不信任变得非常重要。这篇论文通过系统文献综述，探讨了当前人工智能领域的信任概念，并研究了不同类型的人机交互中的信任以及其对不同领域的技术接受度的影响。此外，还提出了技术和非技术的可信度指标以及一些可信度衡量标准，并分析了一些人工智能中的主要破坏因素和信任建立因素，并为实现可信度从而实现人工智能的可靠过渡提出了一些未来的方向和可能的解决方案。

    Mar, 2024