- 基于关系的宏观状态理论指导人工智能学习宏观及设计微观
提出了一个新的关系性宏观状态理论(RMT),并开发了一个机器学习架构 MacroNet,该电子框架可用于简单到复杂系统中的宏观状态的识别和设计微观状态。
- 研究学习的李群生成器 (LieGG)
提出一种方法来提取神经网络学习的对称性并评估网络对其的不变性程度。结果表明网络的对称性普遍存在于不同的结构中,但学习到的对称性质量取决于深度和参数数量。
- ICML深度学习中的协同和对称性:数据、模型和推理算法之间的相互作用
本文通过对深度学习的数据(D)、模型(M)和推理算法(I)进行联合分析,提出了解决高维数据下维数灾难的关键协同作用,其中深度学习的网络结构对数据分布的对称性要求最高。
- 关于几何深度学习的非线性算子
证明了点值非线性算子是唯一符合所研究的流形上梯度下降神经网络经过对称性变换不变的通用算子,而且在与具体对称性相对应的线性算子的配合使用中具有系统性。此外,在矢量场上,这种算子只能是标量乘法,即在满足对称性的条件下并没有通用的非线性算子。
- 作为定点的对象表示:使用隐式微分训练迭代改进算法
该论文探讨了通过迭代重构来打破数据中对称形式的应用到实体集合的表征学习中,应用隐函数定理实现了对这一过程的可微分性的改进,在保证时间和空间复杂度稳定的同时优化了 SLATE 模块中的槽关注的学习。
- MM变分量子机器学习中的对称性利用
本研究探讨了如何利用问题的对称性构建量子学习模型,并提出了一种通过门对称化将标准门集转换为等变门集的方法,在具有对称性结构的变分问题中得到了应用。
- 深度方向感知的功能图:解决形状匹配中的对称问题
本论文提出了一种基于 DiffusionNet 的新型深度学习方法,用于非刚性形状匹配,在不使用不稳定的外在描述符的情况下,通过向量场损失函数实现方向保持的同时学习方向感知特征。
- 利用人工智能工具重建观测到的机械运动
利用神经网络的数学模型和机械系统的物理规律来模拟物体运动的曲线轨迹,并在数值模拟中满足所观测到的所有规律,从而在实验数据上成功地再现简正运动和混沌运动。
- CVPR等变形状空间学习的帧平均
本文提出了一种框架,通过引入均变自动编码器和将平面欧几里得运动等价于形状不同部分之间的变换来将均变性纳入编码器和解码器, 在未见过的测试形状上具有最先进的泛化性能。
- CVPRZZ-Net:适用于 2D 点云的通用旋转等变架构
本文介绍了一种特殊的函数集合,用于近似任何连续旋转同变和置换不变函数,提出了一种新颖的神经网络结构来处理 2D 点云,并证明了其具有近似这些对称性的函数的普适性。还展示了如何扩展该结构以接受一组 2D-2D 对应作为输入,同时保持类似的同变 - 使用变形风险最小化学习增强分布
提出了一种新的 Transformed Risk Minimization (TRM) 方法,该方法通过学习数据增强变换的分布来解决机器学习中的数据分布结构适应问题;并且通过一种新的参数化组合块的方法,利用 PAC-Bayes upper - 等变有限规范化流
通过使用离散层构建等变归一化流,我们引入了三种新的等变流:$G$-Residual Flows,$G$-Coupling Flows 和 $G$-Inverse Autoregressive Flows,除了理论研究外,还在像 CIFAR- - 使用等变连续流量扩展量子场论机器学习
通过浅层结构设计和问题的对称性,提出了一种连续的正则化流,用于从物理量子场论的高维概率分布中进行采样,相对于现有的深度结构,该提出的正则化流使得样本效率得到了明显提高。
- AAAI在黑盒元强化学习中引入对称性
本文研究了元强化学习中的对称性在元泛化中的作用,我们发现对称性和黑盒元强化学习系统中通常不存在的神经网络可以帮助提高算法泛化性能。通过实验验证,加入这些对称性可以使算法更好地推广到未见过的行动和观测空间、任务和环境之中。
- 李代数卷积网络自动对称性发现
在物理科学中,利用李代数卷积网络(L-conv)可以发现物理学和对称性之间的直接联系,并且 L-conv 可以作为构建任何等变前馈结构的构建模块。
- MMCalabi-Yau 度量的神经网络近似
本文使用机器学习技术推导了 Fermat 五次型、Dwork 五次型和 Tian-Yau 流形的数值平直度量,研究表明,使用单一神经网络架构可以逼近几何中数种 Calabi-Yau 流形的 Ricci 平坦 Kaehler 度量,测量表明训 - ICLR神经力学:深度学习动态中的对称性和破缺守恒定律
通过内在对称性的理论框架,使用有限差分法实现了在实践中使用的有限学习率的精确积分表达式来描述在任何数据集上通过深度学习训练出的当代网络体系结构的各种参数组合的学习动力学。
- 面向对称性的三维分子设计的演员 - 评论家算法
使用深度强化学习自动化分子设计,在利用基于图形表示法设计分子的进步存在基本限制的情况下,我们提出了一种新的三维分子设计策略,该策略通过基于球谐级数展开的旋转协变的状态 - 动作表示法利用了设计过程的对称性,进而产生了先前方法无法实现的分子结 - POMO: 强化学习中带有多个最优解的策略优化
使用改进的 REINFORCE 算法的 POMO 方法,结合了基于增强的推理方法,可获得用于解决 NP-hard 问题的先进的启发式方法,可用于广泛的组合优化问题,显着提高了其性能和速度。
- 从对称性到几何性:易处理的非凸问题
本文探讨了研究数据驱动最优化问题时遇到的非凸问题,这些问题可以通过对称性的角度来理解它们表现出的几何结构及其与目标函数构建的相关性,并讨论了未来研究的方向。