- 上下文对称性:通过上下文世界模型进行自监督学习
通过关注上下文,我们提出了一种能够对不同变换具有适应性的通用表示学习算法,该算法通过学习等变性而不是不变性,使模型能够在给定少量示例作为上下文时,将所有相关特征编码为通用表示,并在等变性相关任务上展现出明显的性能提升。
- 大规模更稳健可解释的视觉任务的层次不变性
构建鲁棒且可解释的视觉系统是实现可信人工智能的重要步骤。本研究从理论、实践和应用角度系统地研究了层次不变性,并提出了一种使用卷积神经网络(CNN)层次结构构建超完备不变性的可解释方法。通过实验证明,该方法在纹理、数字和寄生虫分类等实验中展示 - 因果视角下的图形对比不变性学习
本文从因果关系的角度研究了图对比学习(Graph Contrastive Learning),发现传统的图对比学习由于含有非因果信息而不能很好地学习不变表示。为了解决这个问题并促使当前的图对比学习方法学习更好的不变表示,我们提出了一种新的图 - 分布偏移下的不变异常检测:因果视角
利用因果推断的工具,通过确保不变的表示以增强异常检测模型对不同类型的分布转移的鲁棒性,并通过实验评估证明在分布转移情况下,使用我们提出的正则化项的模型显示出显著的鲁棒性提升和良好的超越分布性能。
- 通过可变界实现实用的非对抗性分布对齐
通过提出一种基于非对抗的 VAE 对齐方法,本研究克服了对齐方法中的一些限制,并比较了该方法与先前的基于 VAE 的对齐方法的理论和实证研究。最终,实验证明我们的新颖对齐损失可以替代标准不变表示学习流程中的对抗损失,从而显著拓宽了非对抗对齐 - 使用非参数型纳达拉 - 瓦森头获得不变表示的学习
基于 Nadaraya-Watson(NW)头,本论文提出了一种学习不变表示的非参数策略,通过操纵支持集可以编码不同的因果假设,并在计算机视觉领域验证了三个具有挑战性的真实世界域泛化任务。
- MM多媒体推荐的帕累托不变表示学习
基于 Pareto 不变表示学习 (PaInvRL) 框架,同时学习不变表示和变体表示,减轻由通用编码器引入的错误相关性并提供良好的泛化性能。
- 深度神经网络如何学习组合数据:随机层次模型
本文探讨了使用深度卷积神经网络训练高维数据的难点,回答了在随机分层模型中学习所需的训练数据量成长与类别数、高级特征组成式的幂、重复次数成多项式关系的问题,并给出了相应的估算方法。
- 在部分群标签存在的情况下实现群体鲁棒性
提出一种利用部分敏感信息训练深度神经网络并改善少数群体预测性能的方法。
- ICML无需考虑大小的图表示方法,用于图分类和推断
该研究探讨使用因果模型学习具有近似不变性的表示方法,并展示了这种方法对于培训 / 测试分布转移具有对抗性的图形分类中的好处。
- AAAI使用逆对比损失学习不变表示
使用反对比损失、正则化 MMD 分散度等技巧,提出了一种用于学习不受干扰的不变表示的新算法,适用于二元和连续干扰变量。
- 不变表示学习中的基本极限和权衡
本论文通过信息论的方法,对机器学习中不变表示的准确性和不变性之间的最优权衡进行了分析,并提出了一种几何特征,可以限定或精确刻画分类和回归任务的准确性和不变性之间的 Pareto 最优边界。
- CVPR半监督域自适应的学习不变表示和风险
本论文提出了一种用于半监督域适应的算法 LIRR,它能同时学习不变的表示和风险,并将特征空间中的边缘和条件分布对齐,实现了目标泛化能力的有意义提高。该算法在分类和回归任务上实现了最先进的性能和显著的改进。
- ECCV可解释和公平表达的空值采样
本文提出在数据领域学习不变表示的方法,实现算法公平性的可解释性。采用了对抗训练模型和 null-sampling 程序来处理数据集中的强偏见,构建了具有可解释性的模型,并在 Colored MNIST、CelebA 和 Adult 数据集上 - 卷积神经网络中的平移不变量量化
研究卷积神经网络中实现图像识别中的平移不变性的因素,并发现训练数据增量是获得平移不变表示的最重要因素。
- 带标签噪声的迁移学习
本文提出了一种名为 “Denoising Conditional Invariant Component (DCIC)” 的新框架,它可以在源领域有噪声标签的情况下,提取具有不变性的表示并进行标签迁移学习。实验证明,此方法对合成数据和真实世 - 深度卷积表达的群不变性、形变稳定性和复杂性
本文研究了深度卷积体系结构的多尺度不变表示问题,提出了基于卷积核网络的多层核方法,分析了核映射引起的几何学效应,表明可以将数据表示与学习分离,提出了模型复杂度的规范化测量,即控制所学模型的稳定性和泛化能力的重复核希尔伯特空间规范,证明了已有 - 通过时间减缓原则,自学习得视觉跟踪的深度不变表示
本研究提出一种基于复数不变表示和卷积自编码器的视觉跟踪方法,该方法采用粒子滤波器框架进行实时跟踪,并在多个挑战性基准序列上表现出色。
- 变分公平自编码器
研究如何学习能保留数据中大部分信息且对于某些噪声或敏感变化因素具有不变性的表示形式,提出了一种基于变分自编码器的模型,包括鼓励灵敏因素和潜在因素独立的优先知识和基于 “最大均值差异”(MMD)的附加惩罚项,实验证明该方法比以前的工作更有效。
- ICLR带调制侧连接去噪自编码器学习自然图像的不变表示
研究表明,编码器和解码器之间的适当侧向连接可以使去噪自编码器(dAE)的更高层专注于不变表示。添加被允许调制侧向连接的不变特征可以将抽象不变特征翻译为详细的重构,并支持形成不同的不变池。通过在真实世界图像上进行实验,发现添加调制的侧向连接到