Oct, 2017

针对开放集条件下的鲁棒物体检测的 Dropout 采样

PDF
TL;DR本研究首次研究了 Dropout Sampling 在目标检测中的应用，通过从先进的目标检测系统中提取标签不确定性，利用 Dropout Sampling 网络实现了在机器人视觉中通常遇到的开放条件下的目标检测性能的提高，实现了召回率增加 12.3％（与标准网络相同的精度得分）和精度增加 15.1％（与标准网络相同的召回得分）。
dropout samplingbayesian deep learningobject detectionlabel uncertaintyrobotic vision
发现论文，激发创造
  • 鲁棒目标检测的软采样

    探究了在缺失标注情况下，目标检测的鲁棒性。实验显示通过 Soft Sampling 方法对梯度进行加权能够提高检测成功率，尤其在真实数据集中的表现优于标准检测基线。

    Jun, 2018

  • 上下文丢弃：一种高效的样本相关丢弃模块

    本文提出了上下文辍学模块，采用有效的结构设计作为一个简单和可伸缩的样本依赖性辍学模块，可应用于各种模型中，展示了该方法的可伸缩性在大规模数据集上的实验结果显示，该方法在准确性和不确定性估计质量方面优于基线方法。

    Mar, 2021

  • 评估基于采样的不确定性技术在目标检测中的合并策略

    研究了不同的关联和合并策略对神经网络物体检测中表观不确定性的影响，发现正确选择亲和 - 聚类组合可以显著提高分类和空间不确定性估计的有效性以及所得到的物体检测性能。

    Sep, 2018

  • DeNet：利用指向性稀疏采样实现可扩展实时物体检测

    该论文提出了一种基于终端到终端的 CNN 模型，其使用稀疏的分布估计方案 —— 定向稀疏采样，并对模型进行了场景自适应优化，具有实时评估率和较高的精度，尤其针对细粒度对象具有更大的 regions-of-interest 集合。

    Mar, 2017

  • 通过采样强健地表示深度神经网络中的不确定性

    本研究测试了 Bernoulli 和 Gaussian 多元噪声采样的权重分别采用 multiplier masking 和 dropconnect 所训练出的神经元网络在 MNIST 和 CIFAR-10 数据集上的概率预测矫正性能。结论表明，在进行预测时进行 Bernoulli dropout 和 Gaussian dropconnect 的并行采样，可以得到 Spike-and-slab 变分分布，避免增加所学参数数量的同时，获得比 Bernoulli dropout 和 Gaussian dropconnect 都更准确和稳健的表征结果。

    Nov, 2016

  • Dropout 作为贝叶斯近似：在深度学习中表示模型不确定性

    本研究发展了一种新的理论框架，将深度神经网络的 dropout 训练视为深高斯过程中的近似贝叶斯推断。我们的理论框架使我们能够通过 dropout 神经网络建模不确定性，从而解决了在深度学习中表示不确定性的问题，而不会牺牲计算复杂性或测试精度。

    Jun, 2015

  • Dropout 蒸馏用于高效评估模型置信度

    本文提出了一种有效的方法，通过 Distilled Dropout Network（DDN）来使神经网络输出更好的校准不确定性得分，从而防止过度自信，具有与蒙特卡罗方法相当的校准结果和更高的分类准确性，同时在目标检测框架中实现更好的校准，并通过 COCO 数据集验证其有效性。

    Sep, 2018

  • CertainNet: 无需采样的目标检测不确定性估计

    这篇论文提出了一种新的采样免费的不确定性估计方法，称为 CertainNet，旨在为自主驾驶对象检测中的物体性，类别，位置和大小提供分离的不确定性，该方法使用了一个不确定性感知的热图，并利用检测器提供的相邻边界框，同时也提出了一种评估位置和大小不确定性的新指标。

    Oct, 2021

  • 混凝土辍学

    使用连续松弛的 dropout 的变体方法提供更好的性能和更好的校准不确定性估计，从而使大的视觉模型和强化学习的 uncertainty estimates 自动调优，进而实现更快的实验周期，同时可以使代理人在观察到更多数据时动态地适应其不确定性。

    May, 2017

  • 深度策略优化中的一种简单而有效的方差减少技术：样本丢弃

    本文通过实验表明，利用重要性抽样进行策略优化的代价是很高的方差估计，提出了一种名为 “样本丢弃” 的技术，以限制重要性抽样带来的估计方差，并在一些代表性的策略优化算法上应用，如 TRPO、PPO 和 ESPO，实验证明 “样本丢弃” 可以提高这些深度强化学习算法的性能。

    Feb, 2023