Jan, 2024

认知架构能够从根本上增强 LLM 吗？反之亦然？

PDF
TL;DR研究论文讨论了解决当前基于 LLM 的 AI 系统局限性所需的内容，并认为将人类认知和心理学的见解作为基于计算的认知架构的一部分可以帮助开发能力更强、更可靠、更具人类特征的系统。它强调双过程架构和混合神经符号方法在解决当前 LLM 的局限性方面的重要性。与此相反，该论文还强调了需要彻底改变计算机认知架构以更好地反映人工智能和计算技术的进步的必要性。总的来说，该论文主张从多学科的、互利共赢的角度来开发更好的模型，既用于人工智能，也用于理解人类思维。
llm-centered ai systemscomputational cognitive architecturedual-process architecturehybrid neuro-symbolic approachmultidisciplinary approach
发现论文，激发创造
  • 大型语言模型与认知架构的协同集成 —— 鲁棒人工智能的探索性分析

    本研究论文探讨了在构建表现出智能行为的人工智能代理中，将大型语言模型（LLMs）和认知架构（CAs）两个子领域进行整合的替代方案。在理论模型的指导下，并通过初步的实证数据支持，我们假设多样化的协同方法可以相互弥补它们各自的弱点和局限性，最终促进更健壮和复杂的人工智能系统的发展。此外，我们还讨论了每种方法所涉及的权衡和挑战。

    Aug, 2023

  • CogErgLLM: 利用认知人机工程学探索大型语言模型系统设计视角

    将认知人类工效学与 LLMs 相结合对于提高人机交互的安全性、可靠性和用户满意度至关重要。本文探讨了在 LLM 设计中将认知人类工效学原则的关键整合，旨在为伦理 LLM 开发提供综合框架和实践指南，以促进更安全、更可靠和道德的人机交互。

    Jul, 2024

  • 生成 AI vs. AGI：现代 LLM 的认知优势与劣势

    对交互式 LLM 作为认知系统的考虑，重点关注 2023 年左右的 LLMs（如 ChatGPT，GPT-4，Bard，Llama）。回顾了这些系统的认知优势，并着重关注这些 LLMs 与人类认知系统之间的实质性差异。研究发现，这些 AI 系统的许多实际缺陷可以与它们构建的基本认知架构的不足有关。作者认为，在实际情况下，通过渐进改进这些 LLMs 并不能实现朝人级通用人工智能迈进的目标。然而，这并不意味着研究和实验 LLMs 就没有助于了解人级通用人工智能，也不意味着 LLMs 不能作为整合其他思想的人级通用人工智能体系结构的重要组成部分。文章还简要提及了与 LLMs 相关的社会和伦理事项，说明虽然需要谨慎处理信息误导等问题，经济动荡也需要根据其不可预测的进程采取相应的社会纠正措施，但总体上，与现代 LLMs 相关的政策与如果已经有更可信的人级通用人工智能近似模型存在时的情况截然不同。

    Sep, 2023

  • 语言代理的认知架构

    利用符号人工智能的代理设计历史，我们提出了一种新的认知语言代理的蓝图，即 Cognitive Architectures for Language Agents (CoALA) 框架，这个框架将大型语言模型与外部资源或内部控制流结合起来，以实现基于语言模型的推理、概念化、学习和决策。通过 CoALA 框架，我们强调了目前语言代理的不足，并提出了未来发展更强大的语言代理的具体方向。

    Sep, 2023

  • DeepThought：自主自律系统的架构

    通过将大型语言模型与深度学习系统整合，提出能够展示类似于代理、自我激励甚至一些元认知特征的认知语言代理体系结构。

    Nov, 2023

  • 为大型语言模型代理赋予工作记忆能力

    本文通过应用认知心理学的工作记忆框架来增强大型语言模型（LLMs）的架构，以解决其在人类记忆能力方面的限制，并提出了一种创新模型，包括集中的工作记忆中心和情景缓冲区，以提供更高的连续性，以实现复杂任务和合作场景中的细致语境推理。然而，对于情景记忆的优化编码、存储、优先级、检索和安全性仍需进一步研究，以促进发展具有更复杂、类似人类记忆能力的 LLM 代理。这表明记忆机制是人工通用智能领域的重要前沿。

    Dec, 2023

  • 探索 LLM 在心理应用领域的前沿：综述

    本文探索大型语言模型在心理学应用中的前沿。大型语言模型如 ChatGPT 正在改变心理学研究的方式，并在认知与行为心理学、临床与咨询心理学、教育与发展心理学以及社会与文化心理学等多个领域发挥着影响，强调了它们模拟人类认知和行为的潜力。该论文还讨论了这些模型在心理学方面的能力，提供了创新工具用于文献综述、假设生成、实验设计、实验对象选择、数据分析、学术写作和同行评审。然而，尽管大型语言模型对推进心理学研究方法至关重要，但该论文也注意到了其技术和伦理挑战，如数据隐私、在心理学研究中使用大型语言模型的伦理影响以及对这些模型局限性的更深入了解的需要。研究人员应该负责任地在心理学研究中使用大型语言模型，遵守伦理标准，并考虑在敏感领域部署这些技术的潜在后果。总之，这篇文章全面概述了大型语言模型在心理学中的现状，探讨了潜在的好处和挑战。它号召研究人员在充分利用这些模型的优势的同时，负责任地解决相关风险。

    Jan, 2024

  • 谁在思考？使用 XAI 操作手册推动以人为中心评估 LLMs

    本文探讨了人类中心的大型语言模型评估，并提出了心理模型，用例使用价值和认知参与三个研究重点，旨在加速人类中心式大型语言模型评估的进展。

    Mar, 2023

  • 组织一种语言模型社会：结构和机制以促进集体智慧的提升

    通过将大型语言模型（LLMs）组织成以社区为基础的结构，该论文介绍了一种变革性方法，旨在增强 LLMs 的集体智能和问题解决能力。本文研究了不同的组织模型 - 分层、扁平、动态和联邦，每种模型都具有协作人工智能系统的独特优势和挑战。在这些结构化社区中，LLMs 被设计为专门从事不同的认知任务，采用直接通信、投票系统和基于市场的方法等先进的交互机制，并动态调整其治理结构以满足不断变化的需求。这种社区的实施对于提高人工智能的问题解决能力具有重大潜力，因此有必要深入研究其伦理考虑、管理策略和可扩展性。本文旨在为未来研究奠定基础，主张在人工智能研究和应用中从孤立到协同的运行框架进行范式转变。

    May, 2024

  • 探索基于人工智能的合成人物的增强和认知策略

    大型语言模型（LLMs）作为数据增强系统在人机交互研究中可用于创建合成人物，以解决黑盒特性和幻觉倾向带来的挑战，并提出了发展鲁棒性认知和记忆框架以指导 LLM 响应的构想。初步探索表明，数据丰富、情景记忆和自我反思技术可以提高合成人物的可靠性，为人机交互研究开辟新途径。

    Apr, 2024