- 多路径多切片 PHATE: 通过训练可视化 RNN 的隐藏动态
多维多切片 PHATE(MM-PHATE)是一种新颖的方法,用于可视化循环神经网络(RNN)的隐藏状态的演化过程,能独特保持隐藏表示的社区结构,并识别训练期间的信息处理和压缩阶段。
- 利用混沌动力学作为深度神经网络的开发
本研究揭示了混沌的本质可以在各种先进的深度神经网络中找到,并基于这一发现提出了一种直接利用混沌动力学进行深度学习架构的新方法。通过对不同混沌系统进行系统评估,我们发现我们的框架在准确性、收敛速度和效率方面均优于传统深度神经网络。此外,我们还 - 稀疏扫描先验的视觉转换器
利用人眼的稀疏扫描机制,通过引入稀疏扫描自注意机制(S^3A)和稀疏扫描视觉 Transformer(SSViT),有效降低计算负荷,达到在计算机视觉任务中出色的性能表现。
- 从顺序信息处理的瓶颈中获取语言结构
人类语言是一种独特的自然界沟通方式,其系统性在于信号可以分解为词汇并通过一种规则方式组合成句子,且通过最小化过剩熵的方式实现自然语言一致性,进而达到高效的沟通和信息处理。
- 评估 LLMs 在时间泛化上的表现
大语言模型的发展迫切需要与语言理解和信息处理的提升相适应的评估方法。我们检查了当前的大语言模型,并揭示了它们在时间推理和偏见方面存在的各种时间偏见。我们提出了一个评估框架 Freshbench,用于动态生成最新的现实世界预测性预测的评估基准 - 表征的二重奏及解释的恶化
算法效果对人类感知中特征和标签之间的因果关系进行了表示,这种表示可能与人类先验信念相冲突。解释可以引导人类注意冲突的特征,从而避免注意其他相关特征,从而导致因果过度归因,并且可能对人类的信息处理产生不利影响。
- 人工智能在法律应用中的承诺与风险
AI 对法律职业的重新定义缺乏支持性证据,本文研究了 AI 在三类法律任务中的日益普及的角色:信息处理、涉及创造力、推理或判断的任务,以及对未来的预测。我们发现,根据鉴别正确答案的难易程度和与任务相关的信息的可观察性来评估法律应用的易用性存 - 语言模型中的因果图重新发现人类叙事处理中的皮质层级
通过比较语言模型特征对大脑活动的预测准确性,研究发现语言模型和人脑在语言信息处理方面存在相似性。
- 递归神经网络中的功能连接模块:功能、起源和动力学
通过使用在系统神经科学任务上训练的循环神经网络,本研究调查了相关网络中模块化结构的特定功能角色、起源和动力学含义等重要特征。研究表明,模块是功能上连贯的单元,有助于专门的信息处理;模块是通过输入层到循环层的投射中的符号和权重的不对称性自发形 - MM非平衡物理:从自旋玻璃到机器和神经学习
混沌多体系统的新兴智能行为可以通过统计物理学来表征,探索学习机制与物理动力学之间的关系,以设计适用于人工智能应用的智能系统。
- 利用合成活性微粒进行物理储层计算
用合成主动微粒系统进行物理储水池计算,其中自组织和噪音抑制起到关键作用。
- 基于稀疏触发规则的时间至第一触发编码的脉冲神经网络正则化方法
本文提出了两种基于时间的稀疏发放(SSR)正则化方法,用于进一步降低 TTFS 编码的 SNN 的发放频率,并通过使用多层感知器网络和卷积神经网络结构在 MNIST、Fashion-Mnist 和 CIFAR-10 数据集上对这些正则化方法 - 介观尺度机器学习:计算 - 消散瓶颈
在物理系统中信息处理的成本需要在性能和能量消耗之间做出平衡。我们在介观系统中制定和研究了计算 - 耗散瓶颈,并使用实验和人工合成任务展示了非平衡如何促进性能。我们的框架揭示了信息压缩、输入 - 输出计算和非可逆相互作用引起的动态不可逆性之间 - 高效信息传播和特征选择的多功能中心模型
本文介绍了一种基于数学模型的中心枢结构,旨在研究其在生物和人工智能系统的信息处理、计算神经科学和循环神经网络中的应用,并通过机制分析证明了该结构能够提高模型性能。
- 庞大的披露:ChatGPT 能否帮助投资者处理财务信息?
ChatGPT 的生成式 AI 工具对于投资者在处理信息方面具有根本性的改变,通过股市作为实验室来探索这些工具在总结复杂的公司披露文件方面的经济实用性。
- 临界性分析:生物启发的非线性数据表示
本文提出基于临界分析的新型信息编码方法,利用自组织临界系统中的动态行为来创建非线性、尺度自由的数据表示,这种数据投影方法可以将输入数据的特性保留在降维后的输出中,提供了适用于生物系统的编码机制以及机器学习的尺度自由数据表示。
- 走向神经人工智能:将神经多样性引入人工神经网络
论文介绍了神经多样性对于人工神经网络的重要意义,并探讨了如何将神经多样性引入人工网络以解决其固有问题,例如效率、可解释性和记忆问题。
- 协同信息支持神经网络解决多任务时的模态集成和灵活学习
通过解析神经元系统参与不同模式的信息处理,一个信息分解框架被应用以研究简单的人工神经网络在不同的学习模式下执行各种认知任务的信息处理策略。结果表明,协同作用随着神经网络学习多样任务而增加,并且在需要整合信息来源的任务中发挥关键作用。
- 网络级联中计算的自发出现
该研究证明了阈值网络中的复杂布尔函数计算是自发发生的,它们通过逻辑自动机的形式表现为计算级联。研究还发现抑制的最佳分数与计算神经科学中的最优信息处理相关。
- 脑部同因异果
该研究介绍了一种新的框架,可以帮助研究人员检查刺激的特性是否以相同的方式影响人脑中的两个区域。研究表明,此方法在两个实际的 fMRI 数据集中表现出令人瞩目的一致性,是理解信息如何在大脑中被处理的有希望的新工具。