Jun, 2021

学习中基于决策相关分布的吸引区近似

PDF
TL;DR通过研究表征分类器对基础数据分布的影响的具有宏观性质的 映射方法，进一步分析重复风险最小化的扰动轨迹，提出了性能对准的概念，从而提供了关于收敛性的几何条件。
performative predictionrisk minimizationdata-driven methodsclassifierlearning algorithms
发现论文，激发创造
  • 决策依赖分布的随机优化

    本文的研究内容是针对随机优化问题中在决策变量变化时数据分布的变化所导致的问题提出了解决方案，即通过基于静态分布的最优决策来解决。同时，为了提高算法效率，研究者将典型的随机优化算法应用在了这种问题上，并提供了收敛性保证和性能评估，最终提出了增加算法效率、减少决策规则代价的改进方法。

    Nov, 2020

  • 数据如何与您的模型互动学习：执行梯度下降

    该研究论文介绍了一种新的算法 PerfGD，通过捕捉模型对数据分布的影响来优化模型参数，为解决通过部署机器学习模型改变数据分布引起的性能问题提供了新的解决方案。

    Feb, 2021

  • 有状态世界中的执行预测

    本文提出了一个理论框架，建模了目标人群对已部署分类器的响应，同时研究了基于重复风险最小化和一种更懒惰的方法的两个重新训练算法的收敛性，能够更好的控制已部署分类器的影响，同时探讨了不同人群获取信息和资源的差异对已部署分类器的响应影响。

    Nov, 2020

  • 神经网络的执行预测

    该研究提出一种执行预测框架，关注于找到稳定的分类器来影响他们要预测的数据；并且可以放松关于损失函数的假设，通过使用 Lipschitz 连续的预测数据分布。通过实验，该研究表明可以使用这种方法学习关于真实数据的神经网络分类器。

    Apr, 2023

  • 随机逼近的状态依赖表现预测

    本文研究的是表现性预测问题，通过数据分布和决策变量的依赖来优化随机损失函数。我们考虑的设置是，代理提供适应于学习者和代理以前状态的样本。该算法被研究为一种状态相关的随机近似算法，它可以找到一个称为表现稳定解的固定点。我们的贡献有三个方面。首先，我们证明了随机梯度可以通过受控 Markov 链驱动的有偏随机梯度建模。其次，我们提出了一种新的有限时间性能分析方法，表明表现稳定解的期望平方距离与迭代次数的 $1/k$ 以相同的速度递减。第三，通过数值实验验证了我们的发现。

    Oct, 2021

  • 利用执行反馈的懊悔最小化

    本文研究了在 performative 情境下找到接近最优点的模型的问题，该算法在找到最优解的同时还能保证低的后悔值，并通过对分布性的探索来构建风险置信度，从而建立了一种利用 bandits 算法来实现 performative 反馈下的后悔最小化的概念方法。

    Feb, 2022

  • 执行式预测

    文章探讨了预测可能影响其预测目标的可执行性预测，并提出了一种风险最小化框架，引入了统计学、博弈论和因果性的概念，并给出了最小化损失的稳定点的必要和充分条件。在全面性上，表现性预测严格包含战略分类设置，并给出了克服战略反馈效应的重新培训的首个充分条件。

    Feb, 2020

  • 走出 “回音壁”：优化表现风险

    本文探讨了 performative prediction 的问题，基于特定的损失函数和模型诱导的分布位移性质进行优化，从而实现风险凸优化，并且比通用导数优化方法具有更好的样本效率。

    Feb, 2021

  • 利用赌率反馈的表现预测：通过重新参数化进行学习

    本研究旨在研究不需要假设空间为凸集且模型对数据分布的映射事先已知的可应用的可执行预测问题。通过开发两级零阶优化算法，该算法一级旨在计算分布图，而另一个级别则将可执行预测目标重新参数化为由所引发的数据分布的函数。在一定的条件下，这种重新参数化使我们能够将非凸的目标转化为凸的目标，并实现可证明的遗憾保证。

    May, 2023

  • 逆因果执行预测中的分布图学习

    基于一种逆因果模型，通过代理行为构建微观基础模型，以及统计学上合理的方法来学习分布偏移图，从而有效地降低表现预测风险。

    May, 2024