Jul, 2023
无拒绝学习在具有拒绝的回归问题中的最优性
When No-Rejection Learning is Optimal for Regression with Rejection
Xiaocheng Li, Shang Liu, Chunlin Sun, Hanzhao Wang
TL;DR学习与拒绝是研究人类与人工智能在预测任务中相互作用的典型模型，其包含预测者和拒绝者两个组件。我们探讨了回归与拒绝问题，并研究了将该问题视为标准回归任务学习预测者的无拒绝学习策略。通过扩大预测者的函数类，我们发现无拒绝学习策略的次最优性可以得到缓解。在研究中，我们引入了截断损失来单独针对预测者进行学习，并展示了比联合学习更容易建立预测者的一致性替代性。我们的研究结果支持先使用所有数据来学习预测者，然后根据拒绝者的预测损失进行标定的两步学习过程。这更符合常识，即更多的数据样本将会获得更好的预测者，并需要更多的努力设计用于学习拒绝者的标定算法。虽然我们主要讨论了回归问题，但理论结果和观点同样适用于分类问题。