- 主动学习中的激励合作
在协作式主动学习中,我们引入了一种创新的奖励机制协作框架,旨在最小化标签复杂性的同时使理性代理获得其数据集的标签。我们提供了实现严格个体理性 (IR) 并在标签复杂性方面与最佳已知可行近似算法相媲美的协作协议。
- 具有 Tsybakov 噪声的高效主动学习半空间问题的非凸优化方法
通过设计基于非凸优化的算法,本文研究了具有 Tsybakov 噪声的计算和标签效率 PAC 主动学习上的 d - 维半空间问题,其标签复杂度较先前已知的高效被动或主动算法与该设置下的信息理论下界之间的差距缩小了。
- 简化 Tight L2 回归的标签复杂度
提出一种多项式算法,其中通过删除数据点和减少步骤,可以实现与最优解的期望 $(1+d/n)$ 接近度,从而达到在减少标签复杂度的情况下,实现紧密近似。
- 预测优化框架中的主动学习:基于边际的方法
本文发展了第一个能够在 “预测 - 优化” 框架中进行主动学习的方法,该方法在决策问题的优化模型参数对应的标注样本的无标注数据流中逐步决定是否请求特征样本的 “标签”,其中标签是指决策模型参数的参数。我们的主动学习方法是第一个受预测参数引起 - 大规模批量主动学习
研究了一种高效的批量主动学习算法,该算法结合不确定性和多样性概念,在批量设置中易于扩展,并与先前研究中使用的批量大小(100K-1M)相比提高模型训练效率。同时,还证明了相关采样方法的标签复杂度保证,该方法在特定情况下几乎等同于我们的采样方 - ICML关于局部感知机具有优势的半空间对抗噪声最优学习
本文介绍了一种 Perceptron-like 在线主动学习算法,能够以近乎最优的标签复杂度和样本复杂度下,学习噪声容限在总概率最多为 ν,样本标签误差率 ε 和输入维度 d 给定的 R^d 中同质半空间。该算法的先前版本针对噪声容限存在的 - 高效稀疏半空间的主动学习
本文提供了一个计算有效的算法,用于解决高维空间中的 PAC 主动学习问题,其中数据遵循某些分布假设,该算法在少量的标记查询下使用稀疏的半空间学习,能够达到 O(t polylog(d,1/ϵ))的标记复杂度。
- NIPS重温感知机:半空间高效与标签最优学习
本文提出了一种半空间主动学习算法,能够在存在噪声和尽可能少的标签情况下,有效地学习均匀分布在单位球上的均匀半空间,并证明其在两种噪声情况下均达到了近似最优标签复杂度。
- 主动学习在最大似然估计中的收敛速率
通过交互查询子集示例的标签,主动学习器在模型类和大量未标记示例的情况下学习适合数据的模型。本文提供了一个适用于极大似然估计的两阶段主动学习算法和标签需求的上限和下限分析,并表明这种方法在一些情况下可以实现近乎最优的性能。
- 主动学习的极小极大分析
该研究通过各种噪声模型,建立了关于利用一般假设类进行主动学习的最小极大标签复杂性的无分布上限和下限。结果表明,利用 VC 类进行主动学习的最小极大标签复杂性始终比被动学习的复杂性小。在噪声高的情况下,给定 VC 维数的所有主动学习问题都具有 - 基于不同意的不可知主动学习方法的拓展
本文提出一个算法,利用一种 “从一致的主动学习到具有保证错误的置信度评估预测” 的减少,以及一种新颖的置信度评估预测器解决了确保标签复杂度更低的主动学习问题。
- 通过降维到 I.I.D. 主动学习实现的主动模仿学习
该论文主要介绍了积极模仿学习(active imitation learning)的概念,通过询问专家对单个状态下预期行为的降低学习难度;引入了一种基于 i.i.d. 积极学习的新方法,并分析了该方法对于非定态(non-stationary - ICML半空间的高效主动学习:一种积极方法
研究池化主动学习半平面问题,重点挖掘了实现的情况下侵略性方法的可行性及其理论保证,证明在合理假设下其具有实用性;理论和实验结果显示此方法比较温和的方法更具优势,可以更好降低标签复杂度,不仅阐述了实现的情况下其近似保证,还说明了相应启发式策略 - 重要性加权主动学习
提供了一个实用的、统计上连贯的方案,可在通用损失函数下主动学习二分类器,该算法使用重要性加权来纠正抽样偏差,并通过控制变量来给出严格的标签复杂性界限,实验表明,该方法减少了实现许多学习问题的良好预测性能所需的标签复杂性。