Nov, 2014

自适应数据分析中维护统计学有效性

PDF
TL;DR关于如何在自适应数据分析中保证统计推断的有效性的研究，使用隐私保护技术协调估计值，并在估计指数数量的期望时取得了指数级的改进，适用于多重假设检验和虚假发现率控制。
statistical inferenceadaptive data analysisfalse discovery ratemultiple hypothesis testingprivacy preservation
发现论文，激发创造
  • 交互式数据分析中的虚假发现预防是困难的

    论文表明，在自适应环境下，维护统计查询的计算有效性和正确性是计算难度的源泉，这对现今大型协作研究环境中防止错误发现的挑战具有本质性质。

    Aug, 2014

  • 自适应数据分析与留存重用中的泛化

    本文针对过拟合问题，提出了一种适用于自适应数据分析的算法，使用保留集重复验证后得到的假设，避免了过度拟合问题，同时利用描述长度和差分隐私，展示了在适应性场景下保证统计有效性的方法，并通过近似最大信息的方法将这些方法统一起来。

    Jun, 2015

  • 不断增长数据的自适应数据分析

    数据重复使用中存在过拟合和统计结果的有效性方面的挑战。过去的研究表明，通过不同 ially private 算法与数据交互可以减轻过拟合，实现最坏情况下的泛化保证，并具有渐近最佳的数据要求。然而，之前的工作假设数据是静态的，无法适应数据随时间增长的情况。本文填补了这一空白，提出了自适应分析在动态数据环境中的第一个泛化界限。我们允许分析人员根据当前数据大小以及先前的查询和响应进行自适应调度。我们还结合了时间变化的经验准确性界限和机制，使数据积累时能够提供更紧密的保证。在批量查询设置中，我们的界限的渐近数据要求随自适应查询数量的平方根增长，与之前的工作改善静态设置中的数据分割相匹配。我们通过采用裁剪高斯机制实例化我们的界限，并在经验上优于由静态界限组成的基线。

    May, 2024

  • 基于稳定中位数的自适应估计器泛化

    本文主要介绍了一种基于近似中位数算法的算法来估算统计数据集的普适性，该算法满足差分隐私的强稳定性保证，解决了统计数据集在自适应问题上的泛化保证的新方法。

    Jun, 2017

  • 稳健验证：即使分布发生偏移，也能自信地做出预测

    本文提出了一种建立在鲁棒性预测推断上的不确定性估计模型，使用 conformal inference 方法建立了准确覆盖测试数据分布的预测集，通过估计数据漂移量建立了鲁棒性，并在多个基准数据集上进行了实验证明了该方法的重要性。

    Aug, 2020

  • 利用信息控制偏差：数据探索过拟合的程度如何？

    提出了一种基于信息使用的方法来量化和限制任意探索性分析的偏差和其他误差指标，在此基础上分析和评估了过滤、排名选择和聚类等特定探索性分析方式的偏差。同时，该方法引出了随机化技术，可以证明减少了探索偏差同时保留了数据分析效用，从而帮助解决科学中的可重复性危机。

    Nov, 2015

  • 具有贝叶斯差分隐私的自适应统计学习

    通过使用贝叶斯差分隐私技术，本研究表明，对于存在不相关性和相关性的数据样本，通过扰动和协调估计值可在自适应统计学习中重复使用保留数据集。

    Nov, 2019

  • 自适应线性模型的统计限制：低维估计与推断

    使用自适应数据收集的估计和推断在统计学中面临重大挑战。通过研究单个坐标估计的错误表明了适应性数据和 i.i.d. 数据之间估计性能的显著差异。研究表明 OLS 方法可实现匹配的估计错误，我们还提出了一种新的单坐标推断估计器，通过解两阶段自适应线性估计方程来实现。

    Oct, 2023

  • 基于高效影响函数的统计学习揭秘

    本文介绍了如何利用 efficient influence function 来构建基于统计 / 机器学习的 estimators，并讨论了这些 estimators 表现良好的前提条件。

    Jul, 2021

  • 模型选择后的最优推断

    该研究提出一种控制选择性 I 型错误的方法，以恢复经典情境下适用的选定假设的长期频率性质，推导出一些用于指数家族模型的最强无偏选择性检验和置信区间以及线性回归模型的新型选择性 z 和 t 检验。

    Oct, 2014