协作人工智能系统的弹性建模
该研究介绍了一种新的方法，用于在协作人工智能系统在经历破坏性事件后的性能退化时自动支持决策过程。我们开发了一个框架，自动监控决策过程，在性能退化时进行干预，并推荐下一步操作。
Nov, 2023
一个协作人工智能系统（CAIS）与人类在共享环境中合作达成共同目标。为了从降低性能并确保其弹性的干扰事件中恢复过来，CAIS 可能需要由系统、人类或者协作一起执行一组操作。本文提出了一种自动评估 CAIS 恢复行动在系统的弹性和绿色性之间权衡能力的方法，并设计了实验协议及其应用于真实 CAIS 演示装置，旨在从优化和博弈论两个角度攻击该问题。
Nov, 2023
本篇论文介绍了一种基于 agent assessment module 的 AI 系统执行高级指令序列并回答用户问题的方法，通过不同类别的查询来比较这种方法的计算要求和正确模型的学习所需的努力，并介绍了动态因果决策网络来捕捉 STRIPS-like 领域的因果结构。
Aug, 2021
讨论以健壮的人工智能和机器学习系统为基础，发展和实践的 Robust Artificial Intelligence System Assurance（RAISA）研讨会，探讨机器学习系统架构、开发和部署的健壮性保障，人机协同合作，以及在公平性、隐私和可解释性原则方面的考虑。
Feb, 2022
本文介绍了 Adversarial Resilience Learning（ARL）概念，其定义了两个代理类，即攻击者和防御者，这两个代理机器人在没有任何领域知识的情况下互相探索和训练，并且可以使用广泛的模型自由和模型基础的深度强化学习算法，例如在复杂的电力网络上运行实验，以实现复杂环境下的检查和弹性运行。
May, 2020
本研究旨在描述一种自动化网络攻击防御的方法，通过将被保护系统的模拟与任意在线规划应用于部分观测的马尔科夫决策问题（POMDPs），并结合基于模型的人工智能，以实现风险防范与效益平衡。
Feb, 2020
通过提出受到二元过程理论（DPT）启发的基于注意力机制的认知架构，结合快速启发式（类似人类）反应和机器智能的优化规划能力，我们展示了如何通过评估其在多个不同属性上的表现，动态决定二者的参与度以优化任务目标，并在动态环境中的轨迹规划中验证了该框架有效地管理复杂任务并优化多个任务目标。
Apr, 2024
现今，基于人工智能的系统在不同领域取得了杰出的成果，并超越了人类。然而，训练 AI 模型和从中推断出来的过程需要大量的计算资源，在当前能源效率的社会需求中面临重大挑战。为了应对这一挑战，本研究项目论文描述了 GAISSA 项目的主要愿景、目标和预期成果。GAISSA 项目旨在为数据科学家和软件工程师提供工具支持、以架构为中心的方法，用于建模和开发绿色基于人工智能的系统。虽然该项目处于初期阶段，但我们描述了当前的研究结果，展示了实现 GAISSA 目标的潜力。
Jul, 2023