符号作为人工智能可解释和可建议系统桥梁的通用语
提出符号不仅在智能体之间用于外部通信,还可以通过一种自我交流形式在智能体内部用于帮助思考,探讨基于符号和概念的不同神经过程和推理方式,论文为未来的智能系统提供了一种新颖的神经符号假说和可行的架构设计。
Apr, 2023
本文探讨了神经符号计算技术中深度学习和知识表示应该如何有机结合,通过 20 年来的相关研究结果,为下一个 AI 系统的关键性成分做出探索,以神经符号系统的视角提出 AI 技术应该在信任、安全、可解释性和问责制方面有所提升和解决的方向和挑战。
Dec, 2020
本文提出了基于 Khaneman 的系统一 / 二框架的重要扩展,并推出了一个名为 “Value-Inspired AI(VAI)” 的神经符号计算框架,该框架旨在实现机器智能在人类社会中共享人类价值观的能力。通过利用显式表示的共享价值观,VAI 系统能够更易于理解和解释,从而促进基于价值的决策制定,以应对高风险场景(如医疗保健和自动驾驶等)。最后,我们还提供了该领域目前取得的进展以及未来发展方向的洞见。
Dec, 2023
本文探讨符号新生问题及其在人类和人类社会符号系统中的动态和适应性,阐述了符号在语言学和 AI 中的不同概念和属性,概述了符号新生问题在生物和人工系统中的历史研究,并提供了一个综合的综述和观点。
Jan, 2018
人工智能的显著进步主要是由深度神经网络所推动,然而不可持续的计算轨迹、有限的鲁棒性和缺乏解释性的问题要求开发下一代人工智能系统。神经符号人工智能 (NSAI) 作为一种有潜力的范式,将神经、符号和概率方法融合在一起,提高可解释性、鲁棒性和可信度,并能够从较少的数据中进行学习。最近的 NSAI 系统在具有推理和认知能力的协作人工智能场景中展示了巨大的潜力。在本文中,我们对 NSAI 的最新进展进行了系统综述,并分析了 NSAI 模型的性能特征和计算操作符。此外,我们还从系统和架构的角度讨论了 NSAI 面临的挑战和潜在的未来方向。
Jan, 2024
通过深度学习使自主系统能够在感知的亚符号方式下逐渐理解对象及其环境,执行对象检测、传感器数据融合和语言理解任务。为了实现强大的人工智能,我们需要考虑人类提供的显式教学和通过观察人类行为获得的隐式教学,同时设计多模态输入和输出能力的系统以支持隐式和显式交互模型。我们提出了几个假设和设计指南,并通过相关工作的一个用例来实现这个目标。
Sep, 2023
人工智能的快速发展,特别是通过深度神经网络,已经在视觉和文本处理等领域取得了显著进展。但是,实现人类类似的推理和可解释的人工智能系统仍然面临重大挑战。神经符号学范式将神经网络的深度学习能力与符号系统的推理能力结合起来,提供了开发更透明和可理解的人工智能系统的有希望途径。本文探讨了基于知识图谱的神经符号一体化的最新进展,阐明了知识图谱在三个关键类别中支撑着这种一体化:通过引入符号知识来增强神经网络的推理和可解释性(Symbol for Neural),通过神经网络方法来提高符号系统的完整性和准确性(Neural for Symbol),以及促进两者在混合神经符号一体化中的应用。本文强调了当前的趋势,并提出了神经符号人工智能领域未来研究的方向。
May, 2024
神经符号人工智能(AI)是一个新兴而快速发展的领域,它结合了(深度)神经网络的子符号优势和知识图中的显式符号知识,以提高 AI 系统的可解释性和安全性。该方法解决了当前生成系统的一个关键批评,即其无法生成人类可理解的解释并确保安全行为,尤其在具有未知未知事物的情况下(例如,网络安全和隐私)。神经网络和符号知识图的集成使得 AI 系统能够以专家可理解的方式进行推理、学习和概括,该文章描述了在网络安全和隐私领域应用神经符号 AI 的益处。
Jul, 2023