Dec, 2018

神经网络中旋转表示的连续性

PDF
TL;DR本研究提出一种用于训练深度神经网络的连续表示定义，探究了旋转在不同维度下的连续和不连续表示，发现在四维及以下的实数欧几里得空间中，所有 3D 旋转的表示都是不连续的，提出在 5D 和 6D 连续表示下学习更为适宜，而且可扩展到其他转换群。通过实验证明，在图像和视觉领域的多个实际问题中，使用我们提出的连续旋转表示优于不连续表示。
发现论文，激发创造
  • 学习与三维旋转，SO (3) 的自助指南

    这篇论文综述了旋转表示的选择问题，阐述了其在深度学习与基于梯度优化的问题中的优劣性，提供了基于输入输出是否包含旋转以及数据是否主要由小角度构成的情况下选择合适表示的指导。

    Apr, 2024

  • 关于不确定深度旋转学习的 SO (3) 置信度的平滑表示

    本文介绍了一种用于学习模型的 Symmetric Matrix 表征方法，它满足平滑性和对单元四元数的置信度建模，可用于机器人感知领域中的精确旋转估计，包括 VO 和对象姿态估计。作者针对点云数据和图像数据进行了实证验证，并证明该方法可有效提高对未知环境及图像的鲁棒性。

    Jun, 2020

  • 优化具有连续对称性破缺模型的方法改进

    本文介绍了一种基于规范理论（gauge theory）的优化算法，用于加速表示学习模型在时间序列数据上的收敛速度，并提高诸如矩阵分解和词嵌入模型的解释性。此外，还介绍了一种将现代文字转换为历史词汇的应用实例。

    Mar, 2018

  • 流形上的深度回归: 3D 旋转案例研究

    研究论文介绍如何通过利用不可达欧几里得空间的可微函数，来解决机器学习中的回归问题。文中重点讨论了预图像的连通性和凸性等属性，并通过 3D 旋转的案例研究，说明了不同微分映射技术的优缺点，进言 Procrustes 正交标准化技术是最佳选择。

    Mar, 2021

  • 基于四元数神经网络的人体运动建模

    通过使用 quaternions 表示旋转，使用前向运动学来惩罚绝对位置误差，同时比较 quaternions 和 Euler 角的性能，我们提出了一种新方法 --QuaterNet，用于预测和生成 3D 人体姿势序列。经过实验证明这种方法在短期和长期预测和生成任务中都取得了良好的效果，相比于人体图像学界最新的神经策略，我们的方法被评估为非常逼真。此外，我们还发现，Human3.6M 的标准评估协议产生了高方差结果，提出了简单的解决方案。

    Jan, 2019

  • 3D 旋转等变性四元数神经网络

    本文提出了一组规则，将各种神经网络修改为旋转等变四元数神经网络（REQNN），以处理 3D 点云。 REQNN 确保中间层特征对输入点的排列具有不变性，并表现出更高的旋转鲁棒性。

    Nov, 2019

  • 四元数图神经网络

    本研究提出四元数图神经网络（QGNN）并将其应用于图分类和节点分类等领域，同时在知识图谱完成任务中取得了最优结果。

    Aug, 2020

  • 在单位球上学习表示：在线连续学习应用

    提出了一种基于记忆的、适合于在线连续学习的、使用最大后验估计原则学习单元球上分布的表示学习技术，其特点是通过固定方向来提高学习模型的 “健壮性”，并且可以适应于大规模的模型以及具有模糊边界的任务场景并取得了比现有技术更好的性能。

    Jun, 2023

  • 在线持续学习的学习等角表示

    我们提出了一种利用神经坍塌现象的高效在线持续学习方法，通过在表示空间中进行预备数据训练和残差修正，诱导神经坍塌形成简单光角紧框架（ETF）结构，使得连续学习的模型在仅进行单个时期的训练后更好地适应流数据。在使用 CIFAR-10/100、TinyImageNet、ImageNet-200 和 ImageNet-1K 进行了大量实证验证后，我们证明了我们提出的方法在各种在线持续学习场景中（如不相交和高斯调度连续（即无边界）数据设置）明显优于现有方法。

    Apr, 2024

  • 四元数知识图谱嵌入

    本研究提出了一种基于超复数表示的知识图谱嵌入方法，利用四元数来表示实体并将关系建模为四维空间中的旋转方式，实验证明此方法在关系表示学习方面表现出色并达到了当前领域最好的水平。

    Apr, 2019