Mar, 2024

通过区块链和大型语言模型增强自主代理的信任：一种实现问责和可解释性的架构

PDF
TL;DR自主代理、安全关切、解释、问责制、基于 ROS 的移动机器人的可信度与安全性解决方案及其性能评估。
autonomous agentssecurity concernsexplanationsaccountabilityros-based mobile robots
发现论文，激发创造
  • 理解代理程序：利用大型语言模型进行行为解释

    基于状态和行为观察生成自然语言解释，不依赖于基础模型的表示，能解释智能代理行为，使用户能够与预训练的大型语言模型进行交互并生成有助于解释与推理的解释。

    Nov, 2023

  • 用大型语言模型解释代理行为

    智能代理通过观察状态和行为生成自然语言解释，以理解其行为，从而促进与用户的互动。

    Sep, 2023

  • 通往法律自治的道路：利用大型语言模型、专家系统和贝叶斯网络进行可互操作和可解释的法律信息提取、转换、加载和计算的方法

    通过使用大型语言模型（LLM）、专家法律系统（即法律决策路径）和贝叶斯网络的方法，本文概述了一种应用于自主汽车方面的方法的原理证明，该方法旨在通过对 AI 代理控制设备的代理软件中编码现有规则，实现人工智能代理理解法律并与之推理的能力。

    Mar, 2024

  • 文本复杂推理的可追溯和可解释方法

    研究复杂推理任务的机器学习模型的问责和透明度方法，通过暴露潜在漏洞和解释模型推理过程来提高利益相关者的信任度和发现模型决策中的错误和不公平性。

    Nov, 2022

  • 将解释引入自动驾驶车辆的人机界面以提升信任和情景感知

    自动驾驶汽车中人工智能的可解释性和人机界面对于建立信任起到重要作用，因此本研究探讨了可解释性人机系统的作用，提出了一种评估用户对自动驾驶行为的信任的情境感知框架，并通过实验证明了相关的经验结果。

    Apr, 2024

  • 构建负责任 AI 的未来：基于大型语言模型的智能体设计的模式导向参考架构

    该论文提出了一个模式导向的参考架构，用于指导设计基于大型语言模型的自主代理，实现可负责的人工智能设计，并通过将其映射到两个现实世界代理的架构来评估其完整性和实用性。

    Nov, 2023

  • 构建对话 AI 的信任度：使用 LLMs 和知识图解进行可解释、注重隐私的系统的综合评估和解决方案架构

    综合审查了 150 多个大型语言模型（LLMs）的深入评估，提出了结合知识图谱的结构化动态与 LLMs 的语言能力的新型功能架构。通过使用真实的人工智能新闻数据进行验证，该架构成功地将语言复杂性与事实严谨性相结合，并通过基于角色的访问控制进一步加强了数据安全性。这项研究洞察了对于高效、透明和值得信赖的系统的迫切需求，突出了会话式人工智能领域的不断演变趋势。

    Aug, 2023

  • 平衡自治和协调：基于多维度的多智能体架构自主型 LLM 动力的分类

    本文提出了一个多维分类法，旨在分析自主的 LLM 驱动的多智能体系统在根据建筑观点的各个方面（如目标驱动的任务管理、智能体组成、多智能体协作和上下文交互）之间如何平衡自主性和对齐的动态相互作用。它还包括一个指定基本建筑概念的领域本体模型。我们的分类法旨在使研究人员、工程师和 AI 从业者能够系统地分析这些日益普遍的 AI 系统所采用的建筑动态和平衡策略。所选择的代表性 LLM 驱动的多智能体系统的探索性分类说明了它的实际效用，并揭示了未来研究和开发的潜力。

    Oct, 2023

  • 自主教育结构情景下的可解释性

    本文提出在教育结构化自主环境下进行决策过程中的可解释性概念，尤其强调了教育教师与学习者之间的稳健和迭代的基于解释的沟通的需求。

    Oct, 2022

  • BC4LLM：当区块链遇见大型语言模型时的可信人工智能

    利用区块链技术赋能大型语言模型以构建可信赖的人工智能，主要包括可靠的学习语料库、安全的训练过程和可识别的生成内容，同时探讨了在通信网络领域的潜在应用和未来挑战。

    Oct, 2023