Nov, 2023

学习三角分布在视觉世界中

PDF
TL;DR卷积神经网络在广泛的视觉任务中取得成功，本文研究了特征和标签之间的数学连接，提出了一种用于标签分布学习的通用且简单的框架，通过提出的三角分布变换（TDT）在主流的骨干网络中实现不同的标签分布学习任务。实验证明，TDT 在人脸年龄识别、照明色度估计和美学评估等方面取得了与先前研究相当甚至更好的结果。
convolution neural networklabel distribution learningtriangular distribution transformbackbone networksfacial age recognition
发现论文，激发创造
  • 跨模态视觉推理的测试时分布学习适配器

    在本研究中，我们提出了一种名为 TT-DNA 的测试时分布学习适配器，通过在测试期间直接建模来自支持集的视觉特征的高斯分布，将其与原始的 CLIP 预测进行残差连接，得到最终预测。我们在人类对象交互的视觉推理方面的广泛实验结果表明，我们提出的 TT-DNA 方法在性能上明显优于现有的最先进方法。

    Mar, 2024

  • 深度标签分布学习中标签歧义的处理

    该论文提出一种名为 DLDL（Deep Label Distribution Learning）的方法，通过最小化深度 ConvNets 预测和 ground-truth 标签分布之间的 Kullback-Leibler 散度来学习标签分布，有效地利用标签模糊性，并在训练集较小的情况下防止网络过度拟合，显著提高了年龄估计和头部姿态估计的结果，同时还改进了多标签分类和语义分割任务的识别性能。

    Nov, 2016

  • 通过训练表示对齐学习紧凑特征

    本研究提出了一种名为 In-Training Representation Alignment (ITRA) 的方法，通过匹配损失函数，显式地对两个不同 mini-batch 的 feature distribution 进行校准，从而稳定随机梯度下降（SGD）中高方差的情况，并提出了其对特征表示学习的良好效果的分析，大规模实验表明该方法在图像和文本分类方面优于传统方法。

    Nov, 2022

  • 分布对齐：长尾视觉识别的统一框架

    本文研究深度神经网络在视觉识别任务中长尾类别分布的建模问题，通过调整每个数据点的分类分数和平衡不同类别的数量来实现深度神经网络的统一分布校准策略，经过图像分类、语义分割、目标检测和实例分割等四个视觉识别任务的广泛实验验证，证明了该方法在简单统一框架下能够实现所有四个任务的最优结果。

    Mar, 2021

  • 视觉 Transformer 中的多样特征学习以提高泛化性能

    通过修剪与不必要特征相关的注意力头和鼓励输入梯度正交性，我们提出一种方法提高深度学习模型对分布变化的适应性并增加特征的多样性和互补性。

    Aug, 2023

  • 使用轨迹池化深度卷积描述符的动作识别

    本文提出一种新的视频表示方法 TDD，通过利用深度卷积特征和轨迹约束池化来学习生成自动化的高度区分性的特征描述符，通过归一化方法来提高 TDD 鲁棒性，实验结果表明 TDD 优于之前使用的手工制作和深度学习的特征方法在动作识别方面的性能。

    May, 2015

  • 使用三面体扩散生成 3D 神经场

    本研究提出了一种基于扩散模型的高效的神经场三维生成方法，通过将训练数据转换为连续占据场并将其分解为一组轴对齐的三面体特征表示来实现，训练过程中，采用现有的二维扩散模型对这些特征表示进行训练，生成高质量和多样性的三维神经场，且优于其他三维生成方法。

    Nov, 2022

  • 最小化累积轨迹误差以提高数据集蒸馏

    本文提出了一种基于优化算法的 Flat Trajectory Distillation（FTD）方法来缓解 distortion 和 subsequent evaluation 之间的累积轨迹误差，实验证明该方法可提高梯度匹配方法的性能，并适用于神经架构搜索。

    Nov, 2022

  • 示范对比学习

    该论文提出了一个从多个视角捕捉的无标注视频演示中学习视觉表示的框架，优化了最近提出的自监督学习算法，应用对比学习来增强与任务相关的信息和抑制特征嵌入中的无关信息，验证了所提出的方法在模拟几种机器人任务，包括 pick and place 任务中的应用，评估了学习表示的三个指标：视点对齐，阶段分类和强化学习，在所有情况下，结果都表明与现有方法相比，该方法水平更高，而且训练轮数更少。

    Jan, 2022

  • 利用虚拟图像进行训练的渐进式变换学习

    通过基于无人飞行器图像的大规模数据集，采用逐渐增加虚拟图像的现实感的渐进式变换学习方法，通过 multivariate Gaussian distribution 建模来准确计算对象探测器中虚拟对象与高斯分布之间的马氏距离，以此减小牺牲精度的条件 GAN 框架在大间隔域条件下近似度的失真，从而提高在小数据和交叉域中的性能。

    Nov, 2022