主动学习中的激励合作
通过合作主动学习,利用多个协作者的机器学习能力,不泄露现有数据和模型,而是共享新领域的预测结果和新获取的标签,以解决隐私和安全问题、提高成本效益和资源利用效率,促进模型性能,并为进一步研究合作主动学习及其在各个领域的实际应用提供了基础。
Mar, 2024
本文提出 ICL—— 一种激励协同学习的通用框架,研究为什么和何时激励能够提高合作效果,并通过理论和实验结果展示了 ICL 在联邦学习、协同辅助学习和多臂赌博机等情景下的广泛应用。
May, 2023
使用元学习框架,将主动学习算法视为学习问题,并使用强化学习训练一个输入基础学习器状态和未标记点集的深度神经网络,预测下一个最佳注释点,使用多任务数据集嵌入方法,使得算法可以直接推广到不同的问题。
Jun, 2018
本研究提出了一种基于博弈论的框架来实现联邦学习中的合作,并考虑了代理的激励因素。通过稳定和无嫉妒均衡的概念,我们能够描述在代理有自己的学习目标和较低的样本负担时所能达到的合作状态。此外,通过比较没有考虑代理激励因素时的最优合作和考虑激励因素时的合作,我们证明了利用激励考虑的方法可以更有效地降低样本复杂度。
Mar, 2021
本文提出了基于蒸馏的方法,并采用信任加权方案,使用伪标签的无标签辅助数据促进合作学习,以达成对辅助数据的标签共识。我们证明了该方案相对于本地训练能显著提高模型性能,同时也可以识别和缓解对于众多模型的负面影响。在个体数据训练以及模型架构存在异质性的情况下,该方法表现得尤为有效。
May, 2023
该论文提出了将主动学习重新表述为一种强化学习问题,并明确学习数据选择策略,其中策略充当主动学习启发式算法的角色,以解决启发式选择方法的有效性受限且性能因数据集而异的问题。我们使用跨语言命名实体识别来演示我们的方法,发现相对于传统的主动学习,我们的方法获得了均衡的改进。
Aug, 2017
提出了一种新的主动学习方法,旨在优化主动学习系统和用户之间看似矛盾的目标,以达到在教育应用中快速学习预测一种练习是否适合特定用户,同时只向用户提供符合他们技能的练习,并通过实际用户数据表明,该方法更好地满足了用户的双重目标。
May, 2020