May, 2019

深度密度比估计用于变点检测

PDF
TL;DR本文提出新的目标函数来训练基于深度神经网络的密度比估计器，并将其应用于变点检测问题。我们比较使用梯度下降法来最小化的目标函数，并表明使用我们的深度密度比估计目标函数在癫痫检测任务上表现比其他基于核函数和神经网络的密度比估计方法和其他基于窗口的变点检测算法要好。我们还表明，在这种方法下仍然可以支持其他神经网络体系结构，例如卷积网络。
deep neural networkdensity ratio estimationchange point detectionobjective functionseizure detection
发现论文，激发创造
  • 训练神经网络进行似然 / 密度比估计

    本文介绍了一种基于神经网络和优化方法的似然比函数估计的方法，可用于工程和统计领域中的检测和假设检验问题。

    Nov, 2019

  • 利用相对密度比估计进行时间序列数据的变点检测

    本文提出了一种基于非参数发散度估计的新型统计变点检测算法，该方法使用相对 Pearson 发散度作为发散度度量，并通过直接密度比估计方法精确而高效地估计，实验结果证明该方法在人类活动感知、语音和 Twitter 消息等人工和真实数据集上是有用的。

    Mar, 2012

  • 高维密度比估计及其拓展在近似似然计算中的应用

    提出了一种基于核算子特征函数的密度比估计器，避免了显式降维步骤，可以更好地反映数据的几何结构，同时可扩展应用于极端高维下的似然函数估计问题。

    Apr, 2014

  • 基于密度比估计及半监督学习的贝叶斯优化

    本研究提出了利用半监督学习结合基于密度比估计的贝叶斯优化方法，解决在全局解候选人方面监督分类器过于自信的问题。针对 unlabeled point sampling 和 fixed-size pool 场景，对我们的方法和几种基线方法进行了实验结果展示。

    May, 2023

  • 密度比估计的二元损失

    从有限数量的密度观测结果中估计两个概率密度的比率是机器学习和统计学中的一个核心问题。本研究从一类 Bregman 散度中的预设误差度量出发，表征了导致密度比率估计具有小误差的所有损失函数，并提供了一个简单的构建具有特定属性的损失函数的方法。

    Jul, 2024

  • 用于稳健分布比较的相对密度比估计

    本文提出了一种基于相对散度的密度比较方法，它可以更好地处理密度比例函数中的高峰和波动，具有良好的非参数收敛速度和模型复杂度，通过实验证明了该方法的有效性。

    Jun, 2011

  • 深度直接密度比估计的非负 Bregman 散度最小化

    本文旨在解决 BD 最小化在高度灵活模型（例如深度神经网络）方面常常出现的过拟合问题。作者提出了一种经验 BD 估算器的非负校正方法，并在实验中证明了该方法的有效性及其在基于异常点检测的 “内点” 类问题上的表现。

    Jun, 2020

  • 修剪后的密度比率估计

    本文提出了一种鲁棒的密度比估计方法，可以自动识别和修剪异常值，并采用凸形式的参数估计误差分析和次梯度下降方法进行全局优化。

    Mar, 2017

  • $\alpha$- 散度损失函数用于神经密度比估计

    最近，神经网络在机器学习中的基础技术密度比估计（DRE）中取得了最先进的结果。然而，现有方法由于 DRE 的损失函数引起了优化问题：KL 散度具有大样本要求，训练损失梯度消失，以及损失函数的偏向梯度。因此，本文提出了一种提供简洁实现和稳定优化的 α- 散度损失函数（α-Div）。此外，还提出了对所提出的损失函数的技术验证。通过实验证明了所提出的损失函数的稳定性，并研究了 DRE 任务的估计精度。此外，本研究提出了使用所提出的损失函数进行 DRE 的样本要求，以 $L_1$ 误差的上界将高维 DRE 任务视为常见问题的复杂度。

    Feb, 2024

  • 在 RKHS 中的密度比自适应学习

    通过分析一类正则化 Bregman 散度的密度比率估计方法，我们得出新的有限样本误差界，并提出一种 Lepskii 类的参数选择原则，在不知道密度比率的规则性的情况下最小化误差界。在二次损失的特殊情况下，我们的方法能够自适应地达到极小极大误差率。

    Jul, 2023