AAAIMar, 2023

知识增强型风险评估（KaRA）：一种支持知识密集型候选者风险评估的混合智能框架

PDF
TL;DR该研究提出了一个名为 KARA 的框架，它结合了多种人工智能技术和领域知识库，并考虑到专家反馈，以支持知识密集型背景下对潜在候选人的风险评估过程。
prospective candidateprobability of successkararisk assessmentsubject matter experts
发现论文，激发创造
  • 量化人工智能风险评估：机遇与挑战

    介绍了通过执行全面的 AI 生命周期治理来降低人工智能风险的最佳方法，定量评估现有模型的风险可以类比于如何评估已经建造的房屋的能源效率或医生根据一系列测试评估整体患者健康状况，本文探讨了这一思路，并讨论了这种方法如何改善 AI 的监管。

    Sep, 2022

  • 知识图谱推理的安全风险

    这篇研究论文讨论了知识图谱推理的安全威胁和 ROAR 攻击，通过实证评估，探讨了潜在的应对措施和未来的研究方向。

    May, 2023

  • 基于概率编程的智能虚拟代理的架构框架

    KorraAI 是一个新的框架，用于构建具有体现性的对话代理（ECAs），通过考虑环境和交互时间等上下文信息以及人类交互伙伴提供的不确定信息来模拟 ECAs 的行为。KorraAI 利用概率编程使代理能够主动与人类伙伴交互，并通过概率模型来实现行为建模、用户喜好适应和更自然行为的不确定性。KorraAI 还能以分布和贝叶斯网络的形式建模人类的内部状态，如情绪、偏好和情感，并能随着时间的推移演化，即使没有与用户的交互。同时，KorraAI 的 ECA 模型实现成插件形式，共享通用接口，使得 ECA 设计人员更专注于建模人物角色，而不用关注技术细节，同时也便于存储和交换 ECA 模型。KorraAI ECAs 可以应用于虚拟销售代理、客户服务代理、虚拟伴侣、娱乐者或导师等多个领域。

    Jul, 2023

  • 引入 RISK

    本文介绍了开发 “风险” 系统的初步步骤。该系统旨在通过模拟实现人工智能系统的透明度，并通过模拟的假设情境，帮助系统做出更明智的决策，并向非专业观察者解释行为背后的原因。

    Jul, 2022

  • 基于人工智能组件的系统的网络安全风险分析框架

    该研究提供了一个网络安全风险分析框架来评估带有人工智能组件的系统，以满足欧盟人工智能法、NIST 人工智能风险管理框架以及相关规范的要求，并使用自动驾驶系统的示例进行说明。

    Jan, 2024

  • 从知识表示到知识组织与回归

    本论文详细阐述了知识表示和面向分析的知识组织两种方法，并提供了它们之间的功能映射。通过整合知识组织方法的模型质量指导准则，该方法论的实际效益通过基于知识表示的图像标注案例进行了展示。

    Dec, 2023

  • 监控人工智能系统：问题分析、框架和展望

    本文提出使用基于知识的系统监控运行中的 AI 系统并构建了一个框架来规划与此相关的研究方向和问题分析。

    May, 2022

  • KAER: 为实体解析而设计的知识增强预训练语言模型

    本研究提出了一种名为 KAER 的新框架，该框架使用外部知识增强预训练语言模型的实体解析性能，并在多个数据集上实现了更好的表现，尤其是在 “脏数据” 上表现更加健壮。

    Jan, 2023

  • 基于人工智能技术的基础设施项目数据驱动风险建模

    利用历史数据和人工智能技术，本研究引入了一个数据驱动的框架，以自动识别风险并检查早期风险记录和评估质量。

    Nov, 2023

  • AI 研究的 X 风险分析

    当前人工智能技术缺乏管理长尾风险的系统性讨论，而过多提升其智能和能力可能导致比人类更强大的系统从而带来生存威胁；本文提供了分析人工智能灾难性风险的指南包括如何在今天保持系统的安全、在未来影响人工智能系统安全的策略以及平衡安全和通用性的方法。

    Jun, 2022