ICMLNov, 2017

实验设计的近最优离散优化：遗憾最小化方法

PDF
TL;DR本文提出了一个多项式时间的遗憾最小化框架，以在所有统计效率计算标准上，用只有 O (p/ε^2) 个设计点实现（1+ε）近似，并与传统算法作比较，本算法实现了 D/E/G 效率最优可行化的（1+ε）近似。
experimental designoptimality criteriaregret minimizationpolynomial-time algorithmstatistical efficiency
发现论文，激发创造
  • D - 最优设计的逼近算法

    本文研究实验设计问题，应用 D-optimality criterion 估计误差，设计了两种逼近算法并提出改进方案。

    Feb, 2018

  • 高维实验设计与核赌博机

    本研究提出了一种避免连续概率分布到离散分配转化中需要基于维度的限制的舍入过程，以实现线性实验设计和内核化赌博机方面的最优解的研究。

    May, 2021

  • 经验熵、最小化后悔和最小化风险

    关于随机设计回归模型的统计学习研究，我们提出了一种聚合经验最小值的方法，并建立了其风险的尖锐 Oracle 不等式，进一步证明了在良好规定的模型下，统计估计和在错误规定的模型下的统计后悔的速率等价的结论。

    Aug, 2013

  • 通过鞍点优化实现遗憾最小化

    通过最小化后悔的样本复杂性，本论文提出了一种基于决策 - 估计系数（DEC）的在线算法，用于优化结构化强化学习和有限模型类的探索 - 利用平衡问题。

    Mar, 2024

  • 通过极小极大对偶视角看最优遗憾的随机观点

    通过 von Neumann 最小极大定理，我们研究了在线凸优化游戏的最优策略的遗憾。我们证明了，在这种对抗性环境中，最优策略的遗憾与随机进程设置中经验最小化算法的行为密切相关：它等于最小期望损失的总和与最小经验损失之间的差的最大值。我们展示了最优策略的遗憾具有自然的几何解释，因为它可以被视为一个上凸函数的 Jensen 不等式中的差距。利用此表达式，我们对各种在线学习问题的最优策略给出了上下界限制。我们的方法提供了无需构建学习算法的上界，而提供了对抗者的明确最优策略的下界。

    Mar, 2009

  • 任意 $p$- 范数的实验设计

    本文研究实验设计问题的一般 p - 范数目标，证明了采用随机局部搜索方法可以为所有 p 提供一种统一的求解算法，同时提供了专门情况下已知最佳边界的漂亮插值。

    May, 2023

  • 优化自适应实验：遗憾最小化和最佳臂识别的统一方法

    本文提出了一个统一的模型，同时考虑了实验内表现和实验后结果，为大规模人群中的最佳表现提供了一个清晰的理论，并揭示了一些新的洞见。

    Feb, 2024

  • 基于确定性遗憾界的高效批处理黑盒优化

    本研究从基于频率的核方法角度探讨黑盒优化，提出了一种新的批处理优化算法，可以同时优化收购函数并从整个批次中选择点，理论上为无噪声和扰动设置导出了遗憾界限，同时分析了对贝叶斯优化的鲁棒初始化所需的敌对遗憾的性质。

    May, 2019

  • 实验设计的近似超模性界

    本文使用近似超模性的概念为实验设计问题中 A - 和 E - 最优设计提供了非渐近最坏情况次优边界，揭示了随着实验的信噪比降低，这些成本函数行为逐渐拟合超模函数，从而使贪心 A 和 E 最优设计趋近于（1-1 /e）最优性。

    Nov, 2017

  • 贝叶斯实验设计中基于梯度的随机优化方法

    本文从贝叶斯角度研究非线性系统的最优实验设计问题，提出了基于梯度的随机优化方法，并通过传感器放置问题的数值试验证明了该方法的性能。

    Dec, 2012