Nov, 2023

可微分和加速的球面谐波和Wigner变换

HTML
PDF
TL;DR在该研究中，我们开发了新颖的算法结构，用于在球面数据和旋转群中加速和可微分计算广义傅立叶变换，包括球谐变换和Wigner变换。通过紧密耦合可分离的球面变换，结合混合自动和手动微分方法计算梯度，我们在JAX可微分编程框架中实现了这些算法。我们的方法在不同的球面采样方法上进行了支持，并具有出色的计算准确性和可伸缩性，达到了前所未有的线性时间复杂度。
发现论文，激发创造
  • 球面上的完整字典恢复I：概述和几何图像

    研究矩阵恢复的问题，探讨了通过优化解决该问题的方法，证明了当稀疏度为$O(n)$时，算法具有恢复原始矩阵的能力，并提供了实现该方法的最新算法。

    Nov, 2015

  • 球面上完整词典恢复：利用黎曼信赖域方法进行恢复

    本文中，我们提出了一种基于流形优化的Riemann信任域算法来有效恢复具有特定几何结构的矩阵材料，在字典学习，稀疏表征和现代信号处理和机器学习等各种应用中取得了显著的效果，并且解决了稀疏列下矩阵恢复的难题。

    Nov, 2015

  • 利用蝴蝶分解学习线性变换的快速算法

    通过将快速矩阵向量乘法的特性定义为稀疏矩阵的积，我们引入了一种分治方法的参数化形式，可以自动学习很多重要的变换的有效算法，并且在机器学习流水线中可以作为通用矩阵的轻量级替代，以学习高效且可压缩的变换。

    Mar, 2019

  • 自旋加权球面卷积神经网络

    介绍了一种新型球形卷积神经网络，使用自旋加权球形函数，实现在球形空间内的非均向滤波，适用于分类球形图像、3D形状和球形全景图像的语义分割，并在实验中展现了优越性。

    Jun, 2020

  • 球面CNN的Möbius卷积

    本文提出了一种新的M"obius等变球面卷积操作，进而发展出M"obius等变球面CNN的基础，其可用于形状分类与图像分割任务。

    Jan, 2022

  • 关于球形调和表示对于标量和向量数据的不变性、等变性、相关性和卷积

    在这篇技术报告中，我们深入介绍了球谐（Spherical Harmonic）域中数据的数学表示的理论基础和实际实现，并总结了关于旋转不变性和等变特征、球面信号的卷积和精确相关性的作品。此外，我们还将这些方法从标量球谐表示推广到矢量谐波（Vectorial Harmonics），为球面上的三维矢量场提供了相同的能力。

    Jul, 2023

  • 通过Gaunt 张量乘积实现傅里叶基中的高效等变运算

    提出了一种用于建模现实世界应用中的3D数据的等变性神经网络的方法，其中重点在于计算不可约表示(irreps)的张量积计算的加速，通过数学上将其与高斯系数相连，从而可以通过2D Fourier基的卷积定理和快速傅立叶变换高效计算球函数之间的乘法，从而将不可约表示的张量积计算复杂度从O(L^6)降低到O(L^3)，并通过Open Catalyst Project和3BPA数据集的实验证明了该方法在效率和性能上的提升。

    Jan, 2024

  • 球面和球上的可微分和加速小波变换

    设计了新的高度可分布且可自动微分的球面及球体方向小波变换，用于加速球面和球体上的信号处理，并提供梯度信息来解锁以往在这些空间中不可能的数据驱动分析技术。

    Feb, 2024

  • 通过扩散实现流形上的谱算法

    该研究论文探讨了在重现核希尔伯特空间(RKHS)中应用的谱算法，特别关注输入特征空间的内在结构，将输入数据视为嵌入高维欧几里得空间的低维流形，使用积分算子技术导出了关于广义范数的紧密收敛上界，证明估计器在强意义下收敛于目标函数及其导数，进一步建立了渐近优化性的最小化下界，验证了谱算法在高维逼近问题中的实际重要性。

    Mar, 2024

  • 球面上的截断核随机梯度下降

    本研究针对高维空间中适合球面数据拟合的困难，提出了一种新的算法——截断核随机梯度下降（T-kernel SGD）。该算法通过动态调整假设空间，平衡偏差和方差，并且能够在使用常数步长时针对球面以理论最优的速度收敛，同时显著降低计算复杂度和存储需求。

    Oct, 2024