使用可表征语法和语义规律的定义句类别训练变分自编码器,并在多个测试中展现其成功解耦表示效果,以及在定义建模中得到的改善。
Sep, 2022
深度学习方法在计算神经科学中作为建模工具变得越来越重要,本文系统地研究了变分自编码器的不确定性表示,提出了一种新的方法解释偏离变分自编码器 (EA-VAEs),并发现它在各种情况下能够产生有意义的不确定性报告,可在计算神经科学的感知模型和计算机视觉的推理工具中发挥作用。
Apr, 2024
该论文介绍了一种基于 “对比分布” 的简单方法,该方法通过训练一个从表示到分布的深度网络,并使用方差来衡量置信度,从而赋予预训练的对比表示学习不确定性的能力。在实验中,作者展示了该深度不确定性模型可用于视觉解释模型行为、检测已部署模型中的新噪声和异常,其中在 11 个任务中,对比 10 种基线方法改进了 14%以上,同样可以用于分类超出分布的示例,其性能可与有监督方法竞争。
Oct, 2020
本研究基于 VAE 框架,定量定性地评估了生成的潜在空间在向量操作和语义解缠方面的几何特性,实证结果表明潜在空间中的角色内容被解缠,这为通过操纵向量在潜在空间上的遍历来控制解释生成提供了机会。
Oct, 2022
本文提出一种基于变分自编码器(Variational Autoencoder)的新方法来实现对自然语言处理(NLP)系统的解释,并将文本语言特征建模为离散变量以实现学习解缠编码表示,实验结果显示该方法在多个基准测试和一个文本风格迁移后处理应用中表现优异且优于基于连续和离散变量的基准模型。
Sep, 2021
本文提出了一种新的基于互信息的解缠度度量来研究负样本自由对比学习方法的解缠特性。作者在高维表示空间中将负样本自由对比学习方法引入解缠表示学习领域,并通过对流行的合成数据集和真实世界 CelebA 数据集的实验表明,该方法可以学到一个良好的解缠表示子集。
Jun, 2022
本文提出了一种测量大型语言模型中不确定性的方法,介绍了语义熵的概念,并且证明该方法在问答任务上的准确性优于基线模型。
Feb, 2023
本文提出了一种无监督的深度学习方法来分离在野外拍摄的脸部图像中的多个潜在变化因素,其中多个潜在变化因素的乘法交互通过多线性(张量)结构明确地建模。该方法学习了面部表情和姿态的分离表示,可用于各种应用,包括面部编辑,以及三维面部重建和面部表情、身份和姿态的分类。
Nov, 2017
通过对多种对比方法的理论分析,本论文扩展了有关数据表达的对比学习的理论保证,并验证了这些发现在多个基准数据集上的实际有效性。
Nov, 2023
本文研究基于对比学习的正则化方法来实现大规模数据集的非监督式解缠表示学习,并分析了不同正则化方法的利弊与下游任务性能表现。
Aug, 2021