使用不平衡的图谱进行状态表示学习
通过引入 Maximum Manifold Capacity Representation 并与 DeepInfomax with an unbalanced atlas 相结合,本研究创新地整合了模型压缩的优化类别可分离性的方法,并通过核范数损失稳健地强制执行流形的一致性,从而在目标编码维度相同时显著提高了 DIM-UA 的性能。
May, 2024
本文提出了一种用于部分可观测状态的无监督状态表示学习方案,相比受监督学习的 ST-DIM 方法在 Atari 游戏中的表现提高了,平均准确率得分达到了约 66%,平均 F1 得分为约 64%。
Mar, 2023
本论文提出了一种学习状态表示的方法,通过最大化观察神经编码器的空间和时间不同特征之间的相互信息来学习这些表示。此外,本文还介绍了一个基于 Atari 2600 游戏的新基准评估方法,用于评估它们能够捕捉地面真实状态变量的能力。我们相信这个新的评估框架会对未来的表示学习研究至关重要。最后,我们将我们的技术与其他最先进的生成和对比表示学习方法进行了比较。
Jun, 2019
信息最大化自增强训练(IMSAT)是一种利用数据扩增对离散表述的不变性进行约束的方法,由此产生的结果在聚类和无监督哈希学习方面具有最先进的效果。
Feb, 2017
提出了一种名为自适应流形的方法,用于解决在真实数据集不平衡环境下的转导式 few-shot 学习,该方法利用标记支持示例和无标签查询的底层流形来预测每个查询的类概率分布,并优化所有参数,表现出比其他最先进方法更好的性能。
Apr, 2023
通过在深度神经网络编码器的输入和输出之间最大化互信息来进行无监督学习表示,该方法将表示的特征与先前分布进行敌对匹配,优于其他无监督学习方法并能够在多个分类任务中与全监督学习相竞争,深度信息最大化(DIM)为特定端点目标的无监督学习表示开启了新的途径。
Aug, 2018
本研究探讨了在医学分割的主动学习领域中,熵和代表性采样技术的混合模型,特别是研究了 UMAP(均匀流形逼近和投影)作为捕捉代表性的技术的作用。通过在医学分割十项挑战中使用心脏和前列腺数据集进行验证,我们发现新颖的熵 - UMAP 采样技术的混合组合在 Dice 分数上显著优于随机基线(心脏为 3.2%,前列腺为 4.5%),并在我们研究的 10 种不同主动学习方法中获得了最高的 Dice 系数。这提供了初步证据表明,在混合主动学习模型中,熵和 UMAP 方法之间存在着有趣的协同作用,其中前者在后者之前起到了积极的作用。
Dec, 2023
本文介绍了一种基于稀疏流形变换的简单可解释无监督学习方法,通过可视化解释了无监督学习的表示变换,实现了接近 SOTA 方法的性能,同时与自监督方法密切相关,是一种很有前景的无监督学习方法。
Sep, 2022
本文介绍一种名为 Video Deep InfoMax (VDIM) 的自监督学习方法,将原 DeepInfoMax 扩展至视频领域,其利用内部结构构建视图,并利用这些视图进行预测任务,从而实现对 UCF-101 数据集的行为识别任务的 SoTA 预测结果。
Jul, 2020
本文讨论了流形假设不适当地捕捉了图像数据中典型的低维结构。我们考虑流形联合假设,并在常用图像数据集上进行实证验证,发现观察到的数据在一个不相连的集合上。我们还发现,针对这种结构设计具有归纳偏置的模型可以提高分类和生成建模任务的性能。
Jul, 2022