May, 2022

神经组合计算：从认知中心的悖论到新一代人工智能系统

PDF
TL;DR通过使用神经组合计算的有限形式，人工智能系统正在变得更加强大、准确和易理解，而新的、更深层次的神经组合计算形式将进一步提高人工智能系统的表现。
aineurocompositional computingdeep artificial neural networkscompositionalitycontinuity
发现论文，激发创造
  • 从 Frege 到 chatGPT：语言、认知和深度神经网络中的组合性

    人工智能中的大型语言模型和深度神经网络通过学习组合性处理和元学习的方式，展示了复杂的认知行为，为人类认知研究提供了新的视角和可能性。

    May, 2024

  • AI 模型的组合学习调查：理论与实验实践

    综述了有关计算模型和认知研究中的组合学习的文献，并连接了认知和语言模型在组合推理中面临的计算挑战。概述了形式定义、任务、评估基准、各种计算模型和理论发现，并介绍了大型语言模型的现代研究，以深入了解尖端人工智能模型展示的组合能力，并指出了未来研究的重要方向。

    Jun, 2024

  • 现代人工神经网络中的语言泛化和组合性

    该研究回顾了当前深度学习语言处理网络的主要创新，讨论了一系列研究表明深度网络能够进行微妙的语法依赖性泛化，但也不依赖于系统化的组合规则，这一现象应该引起语言学家和认知科学家的兴趣。

    Mar, 2019

  • 神经网络求解数学问题中出现了组合处理

    本文探讨了人类学习机制中的组合性问题，并扩展了先前针对自然语言的神经网络研究到数学推理领域。研究发现，神经网络不仅能够学习到训练数据中的结构关系，而且能够将这些知识用于指导复合意义的组合。

    May, 2021

  • 通过预测编码实现脑启发型计算智能

    人工智能（AI）是本世纪迅速发展的关键技术之一。然而，使用误差反向传播学习算法训练的深度神经网络在 AI 领域取得的大多数成果已经凸显出一些重要限制，例如计算成本高、难以量化不确定性、缺乏鲁棒性、不可靠性和生物不可行性。解决这些限制可能需要受到神经科学理论启发和指导的方案。其中一种理论称为预测编码（PC），在机器智能任务中表现出有希望的性能，具有令人兴奋的特性，对机器学习社区具有潜在价值：PC 可以模拟大脑不同区域的信息处理，可用于认知控制和机器人学，并具有基于变分推断的坚实数学基础，为某类连续状态生成模型提供了强大的反演方案。希望通过调研有助于这一方向的文献，突出展示 PC 在机器学习和计算智能的未来中可能发挥的多种作用。

    Aug, 2023

  • 维护紧密性：应对新兴语言中的复合性问题

    本文研究了语言中的复合性在普遍性和人类认知中的作用，并通过两个代理人之间的沟通博弈，证明了当在适当的数据集上进行评估时，复合性确实似乎对成功的泛化至关重要。

    Jun, 2022

  • 学习与组合性：通过连接主义概率编程的统一尝试

    本文探讨了学习和组合性作为模拟人类智能的关键机制。我们分析了神经网络和符号人工智能的优缺点，并提出了联结主义概率程序框架来统一学习和组合性机制。在此框架下，我们为小规模序列建模设计了一个 CPP 扩展，并提供基于贝叶斯推断的学习算法。尽管存在无监督学习复杂模式的挑战，我们的早期结果证明 CPP 可以从原始序列数据中成功提取概念和关系，这是组合学习的一个初始步骤。

    Aug, 2022

  • 组合结构的终身学习

    将组合学习和终身学习结合，提出一种通用的处理流相关任务的终身组合学习框架，包括两个阶段：学习如何更好地组合现有组件以同化新问题和学习如何适应现有组件集以容纳新问题。

    Jul, 2020

  • 神经符号计算：机器学习和推理结合的有效方法论

    本文综述了神经符号计算作为一种将机器学习和推理集成在一起的原则方法，并通过笔者的主要特点，如神经学习与符号知识表达和推理的原理集成，证明了其作为一个可解释的 AI 系统的构建方法的有效性。神经符号计算为我们提供了关于越来越显著的可解释性和负责任的 AI 系统的重要见解。

    May, 2019

  • 功能组合结构的终身机器学习

    这篇论文提出了一种通用的学习框架，用于终身学习功能本质组合结构，分别研究了有监督学习和强化学习的应用，同时拓展到了非静态环境下。在评估实验中，展示了这种框架的优越性，取得了较好的效果。

    Jul, 2022