关键词permutation equivariant
搜索结果 - 6
- 神经功能变换器
本文使用注意力机制定义了一组新颖的置换等变的权值空间层，并将它们组合成深度等变模型，称为神经功能变压器 (NFTs)，并利用 NFTs 开发了 Inr2Array，一种从隐式神经表示的权重中计算置换不变潜在表示的新方法。
- 置换等变神经函数
本篇论文研究了用于处理其他神经网络的权重或梯度的神经网络的设计，即神经功能网络（NFN），并通过对称性的引入提出了一个构建置换等变的神经谷波器的框架，其架构将这些对称性编码为归纳偏置，并发现该框架在处理加权多层和卷积神经网络等多个任务方面表 - ICLRTransformer 是否是序列到序列函数的通用逼近器？
本文证明了 Transformer 模型具有连续排列等变序列到序列函数的通用逼近性，并且使用位置编码绕过了排列等变性的限制，展示了 Transformer 可以普遍逼近任意的连续序列到序列函数。该文章的基础是对 Transformer 中自 - 关于普适等变集合网络
证明了一个新的结构 PointNetST，可以用于学习等变集合函数， 并且相较于现有结构更加简单易懂，同时提出并验证了多种置换等变模型。
- 图神经网络的稳定性属性
研究了拓扑结构变化对图神经网络输出的影响，证明了使用积分 Lipschitz 过滤器的图卷积与相应非线性混合效应的组合可以实现稳定性和高频信息的判别力，解释了 GNNs 卓越性能的原因。
- 集合间交互的深度模型
利用深度学习研究交互对象之间的模型，包括用户与电影的评分、 蛋白质和药物的结合或三元用户 - 项目 - 标签交互等，模型应该是置换等变的，并提出一种参数共享方案以实现在多种矩阵完成基准测试中取得良好的性能，并能够扩展到大型数据集和新的交互对