working memory | BriefGPT - AI 论文速递

关键词working memory

搜索结果 - 22

变压器工作记忆中符号表示的复杂性与任务复杂性的相关性
这篇论文研究了在 Transformer 模型解码器中添加的符号工作内存的属性，该工作内存增强了机器翻译任务中模型预测的质量，并作为信息的神经符号表示，对于模型进行正确翻译至关重要。通过研究记忆内容发现，翻译文本的关键词存储在工作内存中，指
PDF14 days ago
构建 AI 观察器：生成语义工作空间
经验丰富的人类观察者阅读文件（如犯罪报告），创建一个简洁的类似情节的 “工作记忆”，其中包括不同的参与者、他们在任何时刻的典型角色和状态、基于他们的互动的演变，甚至是关于未来可能出现的丢失语义部分的地图。目前尚不存在等效的 AI 观察者。我
PDFa month ago
贝叶斯功能连接和图卷积网络用于工作记忆负荷分类
通过应用贝叶斯结构学习算法，该研究在传感器空间中学习了脑电图（EEG）的功能连接性，并将得到的功能连接图输入图卷积网络进行工作记忆负荷的分类，其在 154 名受试者的 6 种不同工作记忆负荷下表现出 95% 的最高分类准确性和 89% 的平
PDF2 months ago
TransformerFAM：反馈注意力即工作记忆
我们提出了一种名为反馈注意力记忆（FAM）的新型 Transformer 架构，利用反馈循环使网络能够关注自身的潜在表示，从而促进 Transformer 内部的工作记忆的出现，使其能够处理无限长的序列。通过实验证明，Transformer
PDF3 months ago
CVPRMemoNav: 视觉导航的工作记忆模型
MemoNav 是一种新型的内存模型，利用工作内存类似的流水线来提高图像目标导航的性能，通过三种类型的导航内存以及场景特征的学习和利用，使得代理能够学习并利用与目标相关的场景特征在拓扑图中进行高效导航，实验证明 MemoNav 在吉布森和
PDF4 months ago
LearnedWMP: 使用查询模板分布进行工作负载内存预测
在现代数据库管理系统中，工作内存常常是处理内存分析查询操作（如连接、排序和聚合）时的限制因素。本研究旨在预测工作负载的内存需求，并提出了学习的工作负载内存预测（LearnedWMP）方法，以改善和简化对工作负载的工作内存需求的估计。经过全面
PDF5 months ago
为大型语言模型代理赋予工作记忆能力
本文通过应用认知心理学的工作记忆框架来增强大型语言模型（LLMs）的架构，以解决其在人类记忆能力方面的限制，并提出了一种创新模型，包括集中的工作记忆中心和情景缓冲区，以提供更高的连续性，以实现复杂任务和合作场景中的细致语境推理。然而，对于情
PDF6 months ago
EMNLP限制记忆能力的语言模型捕捉人类句子处理中的干扰
该研究通过开发一个具有单个自注意头的循环神经语言模型，捕捉到了人类实验中观察到的语义和句法干扰效应。
PDF8 months ago
理解 AI 认知：受人类记忆机制启发的推理神经模块
我们提出了一个由感知、记忆和推理构成的基于 PMI 框架的方法，通过聚合感知信息并在推理模块中与多源记忆进行交互与整合，实现了对当前感知信息更全面准确的解释，应用于改进问题回答任务、关系计算和图像分类任务等，提高了模型的效果。
PDF9 months ago
存储编码模型
我们通过将与记忆相关的信息作为输入来探索一种新的脑编码模型。在视觉 - 记忆认知任务中，我们发现非视觉脑部在很大程度上可以通过先前看到的图像进行准确预测。我们的记忆编码模型（Mem）在 Algonauts 2023 视觉脑竞赛中获胜，即使没
PDFa year ago
解码谜团：对工作记忆多个方面进行人类和人工智能基准测试
这篇研究论文介绍了一个全面的工作记忆基准数据集，通过联合训练和测试最先进的循环神经网络和变压器模型，研究发现人工智能模型在大脑中复制了工作记忆的某些特征，为认知心理学、神经科学和人工智能领域的社区提供了一个标准化的框架来对比和增强工作记忆模
PDFa year ago
评估 ChatGPT 的工作记忆容量
本研究探讨了 ChatGPT 的工作记忆容量，并比较了其在口头和空间 N-back 任务中的表现。研究结果表明，在人类智能与 AI 发展中，对人类工作记忆的理解对于开发智能系统至关重要，并且 AI 模型可以加深我们对人类工作记忆的认识，促进
PDFa year ago
现象意识状态丰富性和难以言喻性的来源
通过信息论动力系统的视角看待意识的复杂性和难以言表性，阐述工作记忆中的吸引子动力学如何导致我们原始体验的贫瘠回忆，语言的不足和两个人的认知功能相似性如何提高沟通能力，从而解释思维定势，使得我们对定性特征是什么产生了疑惑。
PDFa year ago
意识即学习：通过绑定学习的预测处理系统可能会感知自身意识
通过单例学习和分层绑定等方式，预测处理系统可灵活地在新情景中广泛推广，并使用感知价值预测来实施多个生存和复制策略，且这种系统所感知的 “有意识的体验” 是其自身功能的感知表示，从而解决了 “意识元问题”
PDFa year ago
神经符号大脑
使用少量的稀疏随机噪声训练成为一种自持续的吸引子来制造符号，并将这些吸引子存储在寄存器中，利用这种机制，可以实现工作记忆，并可用于深度学习网络结构的设计。
PDF2 years ago
一种用于机器意识和人工超智能的认知架构：迭代更新工作记忆
本文论述了如何实现类人的计算机工作记忆和思维过程，聚焦于模拟哺乳动物的工作记忆系统，提出了两个相互作用的工作记忆存储区，以及一种迭代更新的信息处理策略，作为设计和编程人工通用智能的计算和神经生理决定因素和算法。
PDF2 years ago
ACL学习调解差异以促进实用交流
本研究提出了一种基于 Pragmatic Rational Speaker 的框架，通过在工作记忆中添加轻量级差异调整层来学习演讲者 - 听者差异并相应地调整演讲，从而实现了一种类似于人类交流的 AI 代理能力。实证结果证明，该框架能够显著
PDF2 years ago
ACT-R 和 Soar 的分析和比较
本文对 ACT-R 和 Soar 的认知体系结构进行了详细分析和比较，包括它们的总体结构，对代理数据和元数据的表述，以及相关处理。重点关注工作记忆、程序记忆和长期陈述性记忆，强调了两者的共同点和差异，阐明了这些体系结构使用的信息进程和不同类
PDF2 years ago
ICLR叙事元 RL 中的抽象和情境神经元出现
该研究分析了 Ritter 等人（2018）引入的恢复机制，揭示了两类神经元，分别在代理的工作记忆（一个 epLSTM 细胞）和在 Harlow 视觉固定任务的叙事变体上进行训练时出现。具体而言，抽象神经元编码跨任务共享的知识，而情景神经元
PDF3 years ago
神经语言模型和人类处理嵌套依赖的机制
使用深度学习方法训练的人工神经网络可以在一定程度上模拟人类语句处理的神经机制，但由于某些长距离内嵌依赖的影响，尚不支持完全递归，并且在与人类检测单复数一致性方面具有类似的误差模式。
PDF4 years ago