Sep, 2023

基于领域信息的高斯过程状态空间模型的区分外分布检测

PDF
TL;DR提出了一种利用现有领域知识嵌入核函数的新方法，以及一种基于滚动预测的离线在线监控器，用于使机器人在未知情况下使用基于学习的方法安全导航。数值结果表明，与标准的核函数选择相比，具有领域知识的核函数在小数据集上具有更好的回归质量。通过对一个室内设置中的四足机器人进行测试，演示了 OoD 监控器的有效性，可可靠地对以前未见的地形进行分类。
robotslearning-based methodsgaussian process state-space modelsout-of-training-distributiononline runtime monitor
发现论文，激发创造
  • 通过潜空间密度估计进行元学习以进行超出分布检测

    该研究提出了一种简单而有效的元学习方法，将神经网络用于小数据量的内部分布中，通过概率密度估计在潜空间中检测 OoD，并使用高斯混合模型进行密度估计，通过最大化 likelihood 来适应每个任务中的内部分布数据，并在六个数据集上展示了该方法的优越性。

    Jun, 2022

  • 基于贝叶斯近似的领域外检测分布校准

    本文提出了一种基于贝叶斯模型和 Monte-Carlo Dropout 技术的 OOD 检测框架，能够有效减少训练集和测试集分布的不匹配所导致的不确定性，从而提高 OOD 的 F1 得分。

    Sep, 2022

  • 分类器中的数据分布外检测 via 生成

    本文中，我们通过研究生成 “有效” 的 OOD 样本的复杂性，分析了调整之前的方法的可行性。我们提出了一种使用流形学习网络（例如变分自编码器）生成这些样本的新算法，然后训练一个 $n+1$ 分类器来检测 OOD，其中第 $n+1$ 类代表 OOD 样本。我们在 MNIST 和 Fashion-MNIST 数据集上将我们的方法与几种最近的基于分类器的 OOD 检测器进行了比较，实验表明我们的方法总体上表现更好。

    Oct, 2019

  • 高斯过程和贝叶斯探索的域不变学习

    高斯过程的领域不变学习算法（DIL-GP）使得预测在合成和真实的数据集上具备优越性；DIL-GP 贝叶斯优化方法在四旋翼 PID 参数调整实验中展现出有效性。

    Dec, 2023

  • 高斯过程状态空间模型的识别

    本文介绍了 Gaussian 过程状态空间模型，并探讨最大的挑战 —— 系统识别，提出了基于双向循环神经网络的结构化高斯变分后验分布来处理推断问题，并使用重参数化技巧有效计算边缘似然的下界，可以在观察到真实系统的少量数据后生成可信赖的未来轨迹。

    May, 2017

  • 基于假设驱动的深度学习进行外部分布检测

    我们提出了一种基于假设的方法来确定新样本是属于训练集范围内还是超出范围，在黑盒系统中，通过深度神经网络 (DNN) 计算超出范围 (Out-of-Distribution, OoD) 的隐含回应，并将 OoD 检测问题形式化为不同组的隐含回应之间的假设检验。我们将这种方法应用于一个训练好的深度学习模型，用以检测未知的细菌样本，并展示了其在 InD 和 OoD 隐含回应之间揭示了可解释的差异。该方法对于系统性的新颖性检测和基于子标签训练的分类器的明智决策具有重要意义。

    Mar, 2024

  • 持续无监督的外部分布检测

    不断进行未标注 OOD 检测的新设置，使用融合 Mahalanobis 距离和最近邻方法的 U-OOD 评分函数，并设计了一种置信度缩放的少样本 OOD 检测器，大幅改善相关领域的强基准模型。

    Jun, 2024

  • 语义分割的判别式非分布检测

    本文提出了一种针对视觉分类中的开放世界场景中的数据分割问题的新方法，该方法能够训练出一个专门针对原始训练集以及更大的 “背景” 数据集的 ODD（出现在分布之外的异常值）检测模型，并在测试复杂自然图像的数据集中得到了优异的表现。

    Aug, 2018

  • 度量学习与自适应边界用于域外检测

    设计了一种基于度量学习和自适应决策边界的 OOD 检测算法，相较于其他算法，在类别数量较少的情况下显著提高 OOD 性能，保持了 IND 类别的准确性。

    Apr, 2022

  • 通过高斯过程回归形式化验证未知动态系统

    本文提出了一个基于高斯过程回归的验证框架，将连续空间系统抽象为有限状态不确定马尔可夫决策过程，利用模型检测工具验证抽象的不确定性，并将结果扩展到基础的部分可观测系统，有效地应用于线性、非线性和切换系统等多种情况下。

    Dec, 2021