Feb, 2022

2022 健壮人工智能系统保证（RAISA）研讨会议录

PDF
TL;DR讨论以健壮的人工智能和机器学习系统为基础，发展和实践的 Robust Artificial Intelligence System Assurance（RAISA）研讨会，探讨机器学习系统架构、开发和部署的健壮性保障，人机协同合作，以及在公平性、隐私和可解释性原则方面的考虑。
robust artificial intelligence system assurancemachine learningsystem architecturehuman-machine teamingfairness
发现论文，激发创造
  • AI 维护：稳健性视角

    本文介绍了从强健性的角度出发，将维护人工智能（AI）的重要性与汽车保养做类比，提出了一种 AI 模型检查框架以检测和减轻其强健性风险，并通过对车辆自主性的借鉴，定义了强健性自动化的级别，以实现 AI 维护的各项功能，从而实现在 AI 生命周期过程中，进行强健性评估、状态追踪、风险扫描、模型加固和监管，这是构建可持续和值得信赖的 AI 生态系统的重要里程碑。

    Jan, 2023

  • 探索科学研究的负责任人工智能：一项实证研究

    本文研究了科学研究机构在负责人工智能设计和开发中的道德风险意识和准备情况，揭示了知识缺口和对可用人工智能伦理框架的意识有限。我们的研究结果显示，在没有适当的指导和管理下实施人工智能技术可能会带来潜在的道德风险，因此需要全面的策略来提高团队能力，支持负责、道德和包容的人工智能开发和部署。

    Dec, 2023

  • 朝向绿色人工智能软件系统：基于架构的方法（GAISSA）

    现今，基于人工智能的系统在不同领域取得了杰出的成果，并超越了人类。然而，训练 AI 模型和从中推断出来的过程需要大量的计算资源，在当前能源效率的社会需求中面临重大挑战。为了应对这一挑战，本研究项目论文描述了 GAISSA 项目的主要愿景、目标和预期成果。GAISSA 项目旨在为数据科学家和软件工程师提供工具支持、以架构为中心的方法，用于建模和开发绿色基于人工智能的系统。虽然该项目处于初期阶段，但我们描述了当前的研究结果，展示了实现 GAISSA 目标的潜力。

    Jul, 2023

  • 人类中心视角下的人工智能鲁棒性：技术挑战和机遇

    对近期关于 AI 鲁棒性的研究进展进行系统性调查，提出了三个分类学来组织和描述文献，并强调人类在评估和提高 AI 鲁棒性方面的关键作用。

    Oct, 2022

  • 负责任 AI 工程的工具和实践

    本文提出了两个新的软件库，即 hydra-zen 和 rAI-toolbox，这两个库旨在解决对负责任的人工智能工程的关键需求，包括使复杂的 AI 应用程序可配置，并使它们的行为可复现，以及以可扩展的方式评估和增强 AI 模型的鲁棒性。

    Jan, 2022

  • 负责任的人工智能（RAI）游戏与集合

    通过对于不确定性集合的极小 - 极大问题进行研究，我们提供了一个被称为负责任人工智能（RAI）游戏的通用框架，并给出了两类算法来解决这些问题：基于游戏的算法和贪婪分阶段估计算法。我们通过实证方法证明了我们的技术在解决几个 RAI 问题，特别是在子群体转变方面的适用性和竞争性表现。

    Oct, 2023

  • 协作人工智能系统的弹性建模

    通过实时学习和人机互动，以及对系统性能的自动追踪，本研究提出了一个新的框架来建模协同人工智能系统（CAIS）的性能，以应对系统遭遇破坏性事件时的需求。通过在一个真实案例中的测试，证明了该框架能够被应用于 CAIS 并整合到 CAIS 活动的在线执行中。

    Jan, 2024

  • 机器学习系统的质量管理

    本文提出了一个基于现有进展的全面质量管理框架视角，并确定了软件工程研究的新领域，以实现更可靠的人工智能。

    Jun, 2020

  • 构建可靠的深度学习系统

    介绍了人工智能技术的广泛应用和存在的问题，并提出了对 “AI 工程” 学科的需求，探讨了相关概念和需要解决的关键挑战。

    Oct, 2019

  • ICLR 国际隐私、可追溯性、可解释性、鲁棒性和结构化数据推理工作坊（PAIR^2Struct）

    这篇论文探讨了人工智能等技术在决策敏感的应用中，遵循数据隐私、可解释性、鲁棒性、推理等原则，同时着重探讨在结构化数据的应用方面如何设计可靠的方法来确定和使用相关变量进行决策。

    Oct, 2022