Dec, 2023

独立机制分析与多样性假设

PDF
TL;DRIndependent Mechanism Analysis (IMA) can address non-identifiability issues in nonlinear independent component analysis by assuming an orthogonal Jacobian and can also be applied to higher-dimensional observations based on the manifold hypothesis, with a statistical interpretation.
independent mechanism analysisnonlinear independent component analysisjacobianmanifold hypothesisnon-identifiability issues
发现论文，激发创造
  • 独立机制分析在表示学习中的稳健性探究

    本研究旨在探讨通过 Independent Mechanism Analysis (IMA) 方法对混合物进行独立成分分离的效果，结果表明该方法能够有效地恢复真实的潜在源，即使混合函数在一定程度上违反了该方法的假设。

    Jul, 2022

  • 独立机制分析，一个新概念？

    本论文研究了在非线性盲源分离的场景下，具有独立因果机制的模型，可以重获模型的可识别性并绕过一些非可识别性问题。

    Jun, 2021

  • 多视角非线性 ICA 的可识别性结果：不完整的罗塞塔石问题

    该研究探讨从多个视角中恢复具有独立组成成分的共同潜在源的问题，并呈现了在使用深度神经网络等功能逼近器时，可以理论上消除混合的新颖可识别性证明。

    May, 2019

  • 非线性 ICA 的可辨识性：稀疏性与更多拓展研究

    通过在混合过程中添加约束条件（如结构稀疏性），我们在不需要辅助变量的情况下，实现了非线性 ICA 的非平凡可识别性。

    Jun, 2022

  • 测量变换独立分量分析

    本文提出一种新的独立组分分析框架，基于对观测向量的概率分布应用结构变换的测量转换 ICA（MTICA），通过选择合适的变换，我们证明分离矩阵可以通过对多个变换协方差矩阵对角化唯一确定，通过对多个经验性测量变换协方差矩阵进行近似联合对角化，MTICA 估计分离矩阵。与基于核的 ICA 技术不同，后者将变换重复地应用于观测向量的某些仿射映射，而 MTICA 仅将变换一次应用于观测值的概率分布，导致了性能优势和较少的实现复杂度。数值模拟证明了该方法相比其他现有的 ICA 的最新方法具有更好的性能。

    Feb, 2013

  • 在线独立分量分析的统计动力学

    探讨了通过简单的 Hebbian 学习算法分离高维数据集中的非高斯分量的情况，介绍了该算法适用于学习 Stiefel 流形的自然梯度变体，并研究了大输入维度下两种算法的参数轨迹。

    Sep, 2003

  • 高维在线独立成分分析的可伸缩极限

    本论文使用非线性 PDE 研究了高维限制下在线算法的性能表现和最优化措施，并提出了利用随机梯度下降解决 1D Minimization 问题的新算法。

    Oct, 2017

  • 超越结构稀疏性的非线性独立成分分析的泛化

    非线性独立分量分析的可辨识性在结构稀疏性、不完备性、灵活分组结构等限制条件下得到了一系列新的可辨识性结果，支持实验证据在合成和真实数据集上。

    Nov, 2023

  • 在流形假设下多尺度 Langevin 动力学的快速混合

    本文研究了图像生成的任务，结合马尔可夫链蒙特卡罗技术及 Langevin Dynamics 的理论优势，提出使用流形假设减少混合时间并利用多尺度算法解决高维采样空间对计算性能的影响，以达到平衡图像质量和计算成本的目的。

    Jun, 2020

  • 因果生成模型的群不变原理

    本文提出了一个基于群论的框架来研究因果发现算法，统一概括了多种方法中独立原理（ICM）的解释和应用，通过随机泛群转换来评估原因 - 机制关系并证明该群论视角为研究数据生成机制提供了一个非常通用的工具，并可以直接应用于机器学习。

    May, 2017