- 利用子图在 3D 蛋白质结构上进行几何自监督预训练
本研究通过预训练三维蛋白质结构的图神经网络,利用蛋白质的地理层次结构和亚图与全球结构的关系,提出了一种新的自我监督方法,能够显著提高三维图神经网络在不同蛋白质分类任务中的性能表现。
- 语言模型中的概念形成与对齐:将潜在空间中的统计模式与概念分类框架联系起来
该研究探讨了语言模型内的概念形成和对齐,提出了一种识别语言模型中概念和它们之间层次组织的机制,从 Glove 到 ALBERT 和 T5 等不同的语言模型,利用这些模型生成的语义嵌入中的内在结构提取出概念的分类和层次关系,从而揭示了语言模型 - 应用弱监督方法的紧急语言符号自编码器 (ELSA) 模拟层次脑网络
通过符号自动编码器模型,以及弱监督和新兴语言框架的指导,我们提出了一种新的体系结构,用于在脑网络中生成层次化的群集和相应的图像,从而改善神经影像分析中深度学习模型的可解释性。
- CVPR通过双曲视觉层级映射提升视觉识别能力
使用 Visual Hierarchy Mapper (Hi-Mapper) 通过定义层次结构和学习层次关系的超几何空间进行提升深度神经网络 (DNNs) 的结构化理解,有效地识别和增强整个场景的可视层次结构,并在各种任务中改善 DNNs - ACL中途休息:探究分层脚本生成中的子目标
本文从认知理论的角度扩展了目标导向脚本生成的任务,并提出了基于子目标的层次化组织方法。研究者们贡献了一个新的数据集,并提出了几种基线方法和评估指标,表明了子目标与层次化脚本生成的有效性。此外,研究者们还设计和评估了发现子目标的模型,并发现此 - 使用启发式方法揭示神经语言模型中的句法表示组织
提出了一种新的技术来分析神经语言模型在句法结构敏感性方面的代表性,并证明 LSTM LMs 对于具有关系从句的不同类型的句子的表示是按照语言可解释的层次结构组织的,表明 LMs 跟踪句子的抽象属性。
- 从视网膜到皮层的早期视觉表征的统一理论:基于解剖约束深度卷积神经网络
通过使用深度卷积神经网络模型,本文发现视觉系统中的不同神经约束可以导致视觉处理的不同阶段产生不同的表征模式,并预测小型脊椎动物的视网膜应执行非线性的特征检测计算,而大型动物的视网膜应当基本以线性方式编码视觉场景以响应广泛的刺激。
- CVPR通过语音快速标记目标类别
该研究提出了一种基于语音的标注界面来减少目标类别标注所需的时间,并在 COCO 和 ILSVRC 等数据集上实验证明了该方法相较于现有方法可以在更短时间内获得高质量的标注。
- GRASS: 用于形状结构的生成递归自编码器
介绍了一种新颖的神经网络架构,用于编码和合成 3D 形状的层次结构,其中包括生成模型和形状合成模块。
- 判别式循环稀疏自编码器
本文介绍了具有鉴别性的循环稀疏自编码器模型,通过反向传播算法进行训练,在最小化无监督稀疏重构误差的基础上,增加一个有监督的分类鉴别项,可以实现深度网络的全部性能,并显著减少可训练参数数量。通过对输入原型进行分类抽象,学习出了分层的编码结构, - 链路社区揭示网络的多尺度复杂性
该文研究了结构和动态的网络中的群体(communities),将其重新构想为链接组成的群体而不是节点,发现这种非传统的方法成功地调和了重叠群体和层级组织的对立组织原则,找到了许多网络中的相关链接社区,包括大型社交网络,结果表明链接社区是揭示 - 复杂网络中重叠和分层社区结构的检测
本研究介绍了一种基于适应度函数本地优化的算法,能够发现复杂网络中的社区结构、嵌套社区和重叠社区,可以通过调整参数来探索不同层次的组织结构水平。在真实网络和人工网络上进行了测试,取得了优异的结果。
- 代谢网络中模块性的分层组织
本研究发现 43 种不同生物的代谢网络都组成许多小而高度连通的拓扑模块,这些模块以层次方式组合成较大且不太紧密的单元,其数量和聚类度遵循幂律定律,而在大肠杆菌中,所揭示的分层模块化与已知的代谢功能密切相关,表明确定的网络架构可能是细胞组织化 - 复杂网络中的分层组织
揭示了自然界和社会中许多真实网络所共有的规律:它们呈现出无标度和高度聚集这两个特性,并验证了这两个特性是由分层结构导致的,并且证明了许多复杂系统都具有分层结构这一基本特性。
- 互联网的大规模拓扑和动力学属性
研究了实际 Internet 映射的大规模拓扑和动力学特性,发现互联网的连接结构呈现出一种明确定义的静态状态,并呈现出类似于先前研究的无标度拓扑。