使用认知神经符号系统实现高层机器推理
我们提出了一个新的概念化框架,迫使模型在抽象问题上进行概念推理并在可验证的符号空间中生成解决方案,使用这个框架作为分析工具,我们发现现有的大型语言模型在概念推理方面存在不足,并通过引入可信的归纳信号来改善模型的概念推理性能,实验证明我们提出的技术使模型的概念推理性能提高了 8% 至 11%,实现了一个更强大的推理系统,更少地依赖归纳偏见。
Mar, 2024
为了能让对话式 AI 系统拥有更自然和广泛的对话,需要更多常识,包括识别对话伙伴的不明说的假设。本研究提出了一个基于神经符号定理证明器的多跳推理链提取方法来理解这类不精确陈述的自然语言命令,并提供一个交互式对话框架来从人类中挖掘常识知识来完善其推理链。
Jun, 2020
本研究采用最新的深度神经网络训练方法,成功开发出了一种模型,可以学会在基本本体论推理的形式下有效地进行逻辑推理,进而可以应用于许多现实世界中的问题,并且在各项实验中表现出高度准确和生物学上的可行性。
Aug, 2018
本文综述了神经符号计算作为一种将机器学习和推理集成在一起的原则方法,并通过笔者的主要特点,如神经学习与符号知识表达和推理的原理集成,证明了其作为一个可解释的 AI 系统的构建方法的有效性。神经符号计算为我们提供了关于越来越显著的可解释性和负责任的 AI 系统的重要见解。
May, 2019
近期关于应用于复杂实际知识工作的对话人工智能工具(如由大型语言模型驱动的聊天机器人)的研究表明,这些工具在推理和多步问题解决方面存在限制,且现有聊天机器人模拟浅层推理和理解,在问题复杂度增加时容易出错。本文介绍了认知人工智能(Cognitive AI)的一个高层框架,用于在大型语言模型之外实现可编程定义的神经符号认知,提出了一个双层功能架构,可用于执行复杂多步知识工作的人工智能系统的路线图,认为 Cognitive AI 是实现更高级别的人工智能(如 AGI)的必要前提,并明确指出仅凭概率方法无法实现 AGI。最后讨论了大型语言模型、AI 采用周期和商业认知人工智能开发的影响。
Mar, 2024
介绍了如何使用适合的神经符号模型来实现领域泛化和下游任务的鲁棒性,讨论了整合神经语言模型和知识图谱的不同方法,并对各种常识问答基准数据集进行了定量评估和定性错误分析。
Jan, 2022
本论文调查了最近关于常识推理的谈话人工智能研究,列出了相关的训练数据集,并描述了在谈话人工智能中包含常识的主要方法,讨论了用于评估谈话人工智能中常识的基准,最后对两个最先进的开放对话模型 BlenderBot3 和 LaMDA 的常识能力进行了初步观察,并对自然交互产生了负面影响,进一步激发了关于常识推理在谈话人工智能中的研究。
Feb, 2023