ICMLJun, 2021

对比后验混合用于反事实推断、数据集成和公平性

PDF
TL;DR采用条件 VAE 框架，提出了对抗后验的混合对比（CoMP）方法，以实现潜在空间中表征和条件变量之间的独立性，达到批次效应矫正和反事实推断。实验结果表明 CoMP 在人体肿瘤样本与癌细胞系之间的对准和单细胞 RNA 测序数据的批次校正等任务中具有优异的性能。
conditional vaecontrastive mixture of posteriorsbatch effect correctioncounterfactual inferencesingle-cell rna sequencing
发现论文，激发创造
  • 深度对比潜变量模型的动量匹配

    本文提出一种基于最大平均差异的对比 VAE 模型，用于隔离数据集中与任务有关的变异，提高对比分析性能。经过对三个具有挑战性的对比分析任务的定量与定性分析，本方法相较于之前的最新技术有更好的表现。

    Feb, 2022

  • 因果制约的解耦表示学习在反事实公平中的应用

    本文研究了公平表示学习的问题，通过使用结构表示，可以实现反事实公平性，提出了 Counterfactual Fairness Variational AutoEncoder（CF-VAE）方法，得到了优于基准公平方法的公平性和精度表现。

    Aug, 2022

  • MixCo：视觉表征的混合对比学习

    本篇论文提出一种名为 MixCo 的半阳性对比学习方法，它可以通过学习混合图像的相关相似度，有效提高自我监督学习中的图像表示性能。在实验中，MixCo 在 TinyImageNet、CIFAR10 和 CIFAR100 等基准测试集上一致地提高了测试准确率，且当模型大小等学习能力受限时，改进效果更为显著。

    Oct, 2020

  • 结合变分推断和马尔科夫链蒙特卡洛法的对比散度

    通过 Markov chain Monte Carlo（MCMC）与 varational inference（VI）相结合，并引入 variational contrastive divergence（VCD）作为新的 divergence，可以更好的预测潜在变量模型。

    May, 2019

  • 混合模型中基于变分贝叶斯推断的参数估计和模型选择的一致性

    本篇论文研究、应用和优化混合模型和变化推理等技术对贝叶斯统计学、计算生物学和自然语言处理等多个领域的贡献，并研究证明了可变组成元素数量的情况下，情形近似的集中性，以及证明了这种多次证明技术确实是有效的。

    May, 2018

  • 异质剂量 - 反应曲线估计的对比平衡表示学习

    对于决策制定来说，估计个体对不同治疗剂量的潜在反应至关重要，尤其在精准医学和管理科学领域。本文通过学习与治疗变量独立的协变量表示来预测反事实结果，然而，这种独立性约束忽略了对于反事实预测有用的大量协变量信息，特别是在治疗变量是连续的情况下。为了解决这个问题，本文首先从理论上证明了平衡和预测表示在无偏估计异质剂量响应曲线方面的重要性，即学习得到的表示需满足协变量与两个治疗变量及潜在反应之间的条件独立性。基于此，我们提出了一种新颖的对比平衡表示学习网络，使用部分距离度量，称为 CRNet，用于估计异质剂量响应曲线，同时不丢失治疗剂量的连续性。我们在合成和真实世界数据集上进行了广泛实验，证明了我们的方法显著优于之前的方法。

    Mar, 2024

  • 利用协变量信息的表示学习预防 iVAE 后验崩溃

    研究了可识别变分自编码器，在生成结构中使用辅助协变量来从协变量到观测值和独立组件（IC）中学习潜在的独立组件，并开发了一种称为 CI-iVAE 的新方法来解决后退化坍塌问题。

    Feb, 2022

  • 通过插值进行推理：对比表示可证明地实现计划和推理

    给定时间序列数据，本论文展示了如何利用对比学习获得紧凑的、闭合形式的解来回答 “未来会发生什么？” 和 “我们是如何到达这一点的？” 这些概率推断问题在高维观测时很具有挑战性。我们通过对时间序列数据应用一种变体的对比学习方法来实现这些问题的解答。我们的理论验证了这种对比学习所学习到的表示遵循高斯 - 马尔科夫链。

    Mar, 2024

  • C$^2$VAE：基于高斯 Copula 的 VAE：区别由相联系的表示进行解耦的对比后验

    我们提出了一种自我监督的变分自动编码器（VAE），通过自我监督分类器来消除耦合表示，并联合学习解缠的和相关的隐藏因素。

    Sep, 2023

  • 通过分布式对比解缠学习公平表示

    通过对比学习中的分布对比损失构建敏感性和非敏感性的潜在空间，学习公平表示来达到去偏的目的。

    Jun, 2022