ULLER: 学习和推理的统一语言
通过研究关于 Neuro-Symbolic 人工智能(NeSy)在自然语言处理中的应用,发现将逻辑编译到神经网络中的系统能够实现最佳的 NeSy 目标,呼吁更加系统化的方法和适当的基准测试用于理解该领域的发展。
Feb, 2022
提出并实现了完全声明性的神经谓词的通用框架,从而扩展到完全声明性的 NeSy 框架。首先证明声明性扩展在保持学习和推理能力的同时,能够在仅通过单个查询类型进行训练的情况下回答任意查询。
May, 2024
通过启用预训练语言模型的深度神经网络,在系统 1 和系统 2 的理论支持下,实现了基于神经和符号处理的类比推理和逻辑推理,并在数值推理的两种自然语言理解任务中显著优于现有的最先进方法。
Mar, 2022
介绍了 SNeL(结构化神经符号语言)查询语言,结合了高级符号推理和低级神经处理,可用于从多模态数据中提取信息,评估表明它的潜力能够重塑我们与复杂神经网络交互的方式。
Jun, 2023
提出了一个新的神经智能代理语言学习和通讯框架 (NeLLCom),通过监督学习和强化学习来优化在自然语言学习和使用情况下语言学习的结果,成功实现了无任何学习偏见的代理之间单词顺序 / 格标记权衡的复制,这被视为深度研究语言普遍规律的重要一步。
Jan, 2023
介绍了一个新的 AI 任务和 Inter-Subjective Reasoning 的基线解决方案,利用 NeuroQL 数据集和 DSL,将自然语言中的 Inter-Subjective 信息自动翻译为神经符号代码,并成功结合了客观事实和主观共识的符号推理。
Mar, 2023
NeSyGPT 通过对视觉 - 语言基础模型进行微调,从原始数据中提取符号特征,并学习一个高度表达的回答集程序来解决下游任务,以提高 NeSy 任务的性能和减少数据标记和手动工程工作量。
Feb, 2024
深度学习在自然语言处理 (NLP) 任务中取得了显著进展,本研究提出了一种神经符号学习方法,将符号主义和连接主义两种人工智能学派相结合,通过强化学习或其弱化版本在下游任务中实现具有符号潜在结构的神经系统的弱监督推理。该框架已成功应用于表格查询推理、句法结构推理、信息抽取推理和规则推理等各种任务。
Sep, 2023
本文介绍了一种名为 NSIL 的神经符号归纳学习方法,通过训练一个通用神经网络,从原始数据中提取潜在的概念,同时学习映射潜在概念与目标标签的符号知识,从而解决复杂决策问题。我们在三个不同复杂度的问题领域上评估了 NSIL,包括 NP 完全问题。结果表明,NSIL 学习到了表达丰富的符号知识,能够解决计算复杂的问题,并在准确性和数据效率方面取得了最先进的性能。
May, 2022
通过引入自我监督的神经符号化 (NeSy) 计算框架,基于符号推理能力,本文提出了基于指令学习 (IL) 的新的面向机器人自主性的方法,克服了数据驱动方法在应对不断变化的环境中泛化能力差的问题,通过三个主要组件的循环学习,验证了其在路径规划、规则归纳、最优控制、视觉测距和多机器人路径规划等五个机器人自主性任务上的有效性,并预期其能够促进各个领域的进一步研究。
Jun, 2024