Oct, 2023

TIC-TAC：学习和评估协方差的框架

PDF
TL;DR我们研究了无监督异方差协方差估计的问题，其中的目标是学习给定观察值 x 的多元目标分布 N (y, Σy|x)。我们通过推导 TIC：Taylor Induced Covariance 来解决预测协方差是否能真正捕捉到预测均值的随机性的问题，并通过引入 TAC：Task Agnostic Correlations 度量来解决在没有基准注释的情况下如何评估协方差估计性能的问题。我们的实验证明 TIC 在准确学习协方差方面优于现有技术，并通过 TAC 进行了量化。
发现论文，激发创造
  • TiCo：自监督视觉表示学习的变换不变性和协变性对比

    TiCo 是一种基于自监督学习的视觉表示学习方法，通过最大化同一图像不同畸变版本的嵌入之间的一致性来使编码器产生具有变换不变性的表示，并通过正则化来避免平凡解。通过共同最小化转换不变性损失和协方差对比损失，获得能够产生有用表示用于下游任务的编码器，这种方法提供了一种视觉嵌入方法的新思路。

    Jun, 2022

  • 均值和协方差的不可知估计

    本文提出了多项式时间的算法，用于估计带有无法识别噪声的分布的均值和协方差，并证明了其信息理论下界的误差担保，同时得到了奇异值分解的不可知算法。

    Apr, 2016

  • 利用时间卷积自编码器推断动力系统的时变耦合

    通过对复杂动态系统中非线性和非平稳性交互的评估，我们引入了用于因果推断的时间自编码 (TACI) 方法，该方法结合了一种新的代理数据度量因果交互和一种新的双头机器学习架构来识别和测量时间变化的因果交互的方向和强度。通过对合成数据集和实际数据集的测试，我们证明了 TACI 在准确量化各种系统中的动态因果交互方面的能力。我们的研究结果显示了该方法相对于现有方法的有效性，并凸显了我们的方法在建立对物理和生物系统中时间变化交互机制的更深入理解方面的潜力。

    Jun, 2024

  • ICA 的协方差矩阵的重尾模拟

    本研究提出了一种名为 HTICA 的实用算法，用于重尾 ICA 问题，该算法通过使用中心体的显式解析表示方式，避免了使用椭球体方法和随机游走。此外，本文研究了重尾对不同 ICA 算法的影响，并表明一些使用协方差矩阵或高阶矩的算法可以成功解决一些具有无穷第二矩的 ICA 实例。

    Feb, 2017

  • 基于 Toeplitz 反协方差的多元时间序列数据聚类

    本研究提出了一种基于 Toeplitz Inverse Covariance 的模型聚类方法，称为 TICC，通过马尔科夫随机场描述聚类中子序列中不同观测之间的相互依赖性，从而在同时分割和聚类时间序列数据的过程中实现了可扩展性且解释性更强的结果。

    Jun, 2017

  • 转移因果学习：具有知识传输的因果效应估计

    使用 $\ell_1$ 正则化的迁移学习方法，可用于同质的情况下提高因果效应估计的准确性，可使用广义线性模型和神经网络得到性能提高

    May, 2023

  • 基于独立性检验的测量误差和线性非高斯模型因果发现方法

    本文提出了一种基于 Transformed Independent Noise (TIN) 的方法，用于解决测量误差下的因果图结构恢复问题，相比现有方法，TIN 条件检验方法更具可扩展性且在合成和真实数据中均能取得较好的效果。

    Oct, 2022

  • 利用新兴协方差进行概率计算：迈向有效的不确定性量化

    通过截断概率表示的前两个矩阵 (均值和协方差)，我们开发了一个高效且可解释的概率计算框架，首先对平均数进行监管以优化任务目标，然后自动捕获模型预测的不确定性。

    May, 2023

  • 希尔伯特 - 施密特独立准则下的强健学习

    使用 HSIC 作为损失函数学习鲁棒回归和分类模型，以期望产生具有良好概括性能力的模型用于处理无监督共变量漂移任务，实验表明其优于标准损失函数取得最新成果。

    Oct, 2019

  • 一种快速计算距离相关性的算法

    本文提出了一个简单的算法，用于计算两个一元随机变量之间的距离协方差。该算法基本上包括两个排序步骤，时间复杂度为 $O (nlog (n))$，比现有技术更快速。该算法的速度可以帮助研究人员探索大型数据集中复杂的依赖结构。

    Oct, 2018