Mar, 2021

有限时间和流式无休止多臂赌博机问题的高效算法

PDF
TL;DR提出了 “Streaming Bandits” 框架，该框架为不安宁的多臂赌博机问题，其中异构臂可以在有限寿命后进入和离开系统。该框架自然地解决了卫生干预计划问题，同时提供了一个新颖而高效的算法来计算 Whittle 索引解。
发现论文，激发创造
  • 有限时间内动态赌博机渐近最优指数策略

    该研究提出了一种基于拉格朗日松弛法的单臂问题集合的无休止多臂赌博机指数策略，利用模拟证明其表现优于现有启发式方法。

    Jul, 2017

  • 多臂赌博机中的可扩展决策焦点学习及其在母婴健康中的应用

    本文提出了一种新颖的用于决策焦点学习的方法，该方法直接训练预测模型以最大化 Whittle 指数解的质量，应用于不确定武装转移动态但已知相关武装特征的不安静多臂老虎机（RMAB）问题，并提高了在 RMAB 问题中的可扩展性，并将算法应用于先前收集的母婴健康数据集，展示了其性能。

    Feb, 2022

  • 公平的不竭多臂赌博机：受数字健康启发的通用框架

    基于需求紧迫性的研究发现，从公平性文献中提取的两个公平性目标，最小最大奖励和最大纳什福利，分别通过水充实算法和平衡不同群体大小的贪婪算法进行高效求解，在三个模拟领域中展示了比现有技术更加公平，而对效用几乎没有牺牲的结果。

    Aug, 2023

  • 一种基于指标的无休止赌博任务分配策略：为拉动机械臂工人争取公平

    本文研究在资源受限条件下随机过程的干预规划问题，并提出了一种解决异构工人的多工人多臂不懈赌博机问题的方法。通过开发基于指标的调度策略和 Whittle 指数的多工人扩展，实现公平性和高收益的干预计划。最后的实验结果表明，该方法在公平性方面表现优异，而在奖励积累方面只有轻微的牺牲。

    Mar, 2023

  • 折叠赌博算法及其在公共卫生干预中的应用

    提出了一种新的无休止多臂赌博机设置 ——Collapsing Bandits，并在医疗保健领域中实现了应用，该算法使用何维特指数技术和阈值策略来优化可观察状态数量较少、不可观察状态数量较多的多臂赌博机问题，评估了算法在多种数据分布上的性能。

    Jul, 2020

  • 一种用于合作资源分配的联合在线不安分强盗框架

    使用联邦学习范式，本研究提出了一种基于 Federated Thompson Sampling-enabled Whittle Index (FedTSWI) 算法的合作式资源分配问题解决方案，该算法在通信和计算效率上具有较高水平并提供隐私保证，并在在线多用户多信道访问案例中展示了快速收敛率和比基准方法更好的性能。值得注意的是，该算法的样本复杂度随代理数量而减少。

    Jun, 2024

  • 乐观 Whittle 指数策略：动态赌博机的在线学习

    该研究提出了一种基于 Whittle 指数策略的在线学习算法 UCWhittle，使用上限置信度方法学习转移动力学来解决具有未知状态转移的 RMAB 问题，该算法在三个不同领域均表现出比现有在线学习算法更好的性能。

    May, 2022

  • 不静态赌博机问题的近似算法

    讨论了一种无法使用贪心指数算法求解的 Feedback MAB 问题，开发出了一种新颖并且通用的双重算法技术，可为不少于 1+epsilon 的解提供 2+epsilon 的近似值，这个技术同样适用于其他不特定的喧闹强盗问题和 POMDP。

    Nov, 2007

  • 可证明高效的对抗性不安静多臂赌博机强化学习：未知转换和赌博机反馈

    通过使用一种创新的偏置对抗性奖励估计器和低复杂度指标策略，我们开发了一种新颖的强化学习算法来解决具有未知转换函数和敌对奖励的周期性不安定性多臂赌博机问题，以最大化总的敌对奖励，并确保在每个决策阶段满足瞬时激活约束条件，我们的算法在我们所考虑的具有挑战性的设置中保证了约根号 T 的遗憾界，这在我们的所知范围内是首次实现的。

    May, 2024

  • 无眠多臂赌博中的零样本学习

    提出了一种基于神经网络的预训练模型（PreFeRMAB），具备广泛的零样本能力，能够更加高效地在特定实例上进行微调，同时适用于离散或连续状态空间的多动作问题，解决了以往研究中在处理连续状态时需要重新训练等限制，拥有理论收敛保证和在多个具有挑战性、以真实世界为灵感的问题上的实证优势。

    Oct, 2023