May, 2023

评估自主系统的可信度

PDF
TL;DR研究探讨了自主系统的信任度和相关标准，并提出了一个可用于自主系统的信任度评估框架的大纲。
autonomous systemstrustworthinessverificationstandardsassurance
发现论文，激发创造
  • 关于可信性的规定

    该文介绍了关于自主系统的可信度、规范和应用领域的高级智力挑战，强调了对功能、安全性、安全性和其他非功能属性等方面的顶层要求的关注。

    Jun, 2022

  • 可信自主系统（TAS）：吸引 TAS 专家参与课程设计

    机器学习对自主系统行业的提高、引入的社会、技术、法律和伦理挑战以及针对课程设计和潜在技能方面的问题被多个学科所讨论，本研究总结了多位领先专家的洞见，为 TAS 教育社区提供了关于课程设计和潜在 TAS 相关技能的重要挑战。

    Feb, 2022

  • 确信自治：与我们可以信任的自治系统共存之路

    针对自主性中确保保障的挑战，召开了三场研讨会，旨在促进对学术界、产业界和政府利益相关者之间的理解和战略规划，以推动自主性的持续进步。

    Oct, 2020

  • 基于原则的 AI 和自主系统伦理保证论证

    该研究论文提出了一种基于四个核心道德原则的框架 - 一个伦理保证论证模式 - 来结构化系统化地推理出在特定情境下使用给定的人工智能 / 自主系统的道德可接受性，以此来扩展和应用保证论证方法，从而获得使用 AI 和自主系统时的可接受道德保证。

    Mar, 2022

  • 用于可信体系结构的系统挑战

    研究了面对真实环境中的各种工程挑战，为保证具有人类中心社会价值的协调行为，设计可靠和可验证安全的人机交互，我们正在为值得信赖的具有不断发展、自主学习、意图驱动、探索性的、大规模非可预测的、增强的具体化系统识别一些紧迫的系统挑战，包括具有鲁棒性和人类中心的 AI，认知架构、不确定性量化、可信自我集成和持续分析和保证。

    Jan, 2022

  • 算法保证在人 - 自主权信任关系中的定义、案例和调查

    本文调查了技术设计及使用中存在的信任问题，提出了保证技术可信的方法，并总结出几个关键思路，为以后的保证设计提供了指导。

    Aug, 2017

  • 不要信任，总是验证：可信 AI 的路线图？

    本文对基于人工智能技术的系统的可验证性与数据存在的偏差问题进行了讨论，并提出了可信 AI 所需满足的一些属性和模型。

    Jun, 2022

  • 国防伦理人工智能方法：可信自主系统开发案例研究

    本研究介绍了在一个行业主导、政府资助的项目中建立受信任的自主系统 - Athena AI - 的案例研究，探讨了在技术开发中嵌入负责任的研究与创新对齐的伦理设计方法和原则的价值和影响。

    Jun, 2022

  • 来见证：关于网络物理系统安全保障的一些观点

    通过探讨与保障支持因为设计而参数要求（例如安全性、安全性和可靠性）的合规性的确证缺陷检测、模式依赖以改善确证方案结构、改进现有确证方案符号以及（半）自动化确证方案生成等方面的挑战，提出了一些可能的解决方向。

    Jan, 2024

  • 保证智能逻辑代理在可信与道德行为方面的表现

    在这篇论文中，我们提出 / 改进 / 扩展了基于动态（运行时）逻辑的自我检测技术，以确保自主智能代理的可靠和道德行为。

    Feb, 2024