以强化学习为简明替代预测级联：基于图像分割的案例研究

Feb, 2024

以强化学习为简明替代预测级联：基于图像分割的案例研究

Reinforcement Learning as a Parsimonious Alternative to Prediction Cascades: A Case Study on Image Segmentation

Bharat Srikishan, Anika Tabassum, Srikanth Allu, Ramakrishnan Kannan, Nikhil Muralidhar

TL;DR深度学习和计算机视觉中，级联架构对执行资源受限的环境不可行，PaSeR 是一个代替级联架构的计算成本感知学习流程，通过实验评估表明，相对于级联模型，PaSeR 在减少计算成本的同时实现更佳的准确性，且在 IoU/GigaFlop 指标下对电池材料相分割任务具有最小 174% 的性能提升和对噪声 MNIST 数据集的最小 13.4% 的性能提升。

Abstract

deep learning architectures have achieved state-of-the-art (SOTA) performance on computer vision tasks such as object detection and image segmentation. This may be attributed to the use of over-parameterized, mon

deep learning computer vision cascaded architectures cost-aware learning pipeline iou/gigaflop metric

发现论文，激发创造

级联深度分类器的高效摊销推理

该论文提出了一种使用深度神经网络级联和选择模块的新框架，通过同时优化预测准确性和能耗，实现了在测试时间的有效成本 - 准确性权衡，验证了该方法在图像分类任务中优于标准训练的 ResNets，对 CIFAR-10/100 数据集的 FLOPs 成本需求不到 20% 和 50%，在 ImageNet 数据集上只需求 66%。

Oct, 2017

结构化预测级联

本文提出了一种基于‘Structured Prediction Cascade’的新型结构预测方法，通过一系列逐步添加模型的方式，可以有效实现对输出状态空间的过滤和精细调整，并且在优化过程中控制过滤效率与准确率的平衡，通过对模型进行不断优化，显著提升结构预测任务的效率与准确性。

Aug, 2012

在少数无奖励部署中学习通用世界模型

在深度强化学习中，为了建立通用型智能体，需要实现两个关键的条件：探索是任务无关的，探索策略能够在无需重新训练的情况下收集大量数据。本文提出了一种新的强化学习范式 —— 无奖励部署效率设置，并在此基础上介绍了 CASCADE 算法，通过一种信息论的目标函数设计，最大化智能体群体采样轨迹的多样性，收集通用 - 无任务限制数据集，学习世界模型，并实现了零样本泛化到 Atari，MiniGrid，Crafter 和 DM Control Suite 等新型任务。

Oct, 2022

适应性掩模代理用于少样本分割

为了在机器人应用场景下提高样本效率，本文提出了一种新颖的自适应蒙版代理（adaptive masked proxies）方法，它利用多分辨率平均池化技术对带标签的基础嵌入进行掩蔽，从而作为新类别的正代理，并与之前学习到的类别签名进行融合，该方法在 PASCAL-$5^i$ 数据集上表现出了明显优势，同时还能够与二进制运动和基于外观的分割网络一同使用，作者还提出了一种评估目标分割连续学习的新方法 incremental PASCAL (iPASCAL)，该方法也比基线方法表现更出色。

Feb, 2019

伪重演：实现深度强化学习而不会发生灾难性遗忘

提出了一种利用深度生成网络结合图像分类和强化学习领域中的连续学习思想的模型，该模型具有双重记忆系统和伪回放系统，能够在 Atari 2600 游戏中完成顺序学习而不会遗忘前面的任务，并且随着任务数量的增加不需要额外的存储要求，存储原始数据或重新访问过去的任务。

Dec, 2018

级联预测模型的近似算法

本文介绍了一种近似算法，将一组预训练模型作为输入，并生成一个具有类似准确度但平均成本较低的级联模型，应用于最先进的 ImageNet 分类模型，可将浮点乘法降低达 2 倍，并将平均情况下的内存 I / O 降低达 6 倍。自动生成的级联呈现出直观的特性，如对易于处理的图像使用较低分辨率输入，并在使用计算成本较低的模型时需要更高的预测置信度。

Feb, 2018

图像分割的强化主动学习

策略是通过使用深度强化学习对语义分割进行主动学习实现的，该方法比最有竞争力的基线数量少约 30％的附加标签数据，提高模型对不足表达类别的分类性能。

Feb, 2020

语义分割的增量学习技术

本研究旨在解决深度学习架构在面临新增任务时由于灾难性遗忘导致性能下降的问题，提出了一种知识蒸馏方法来保留以前学习过的类别信息，并同时学习新类别，本文在 Pascal VOC2012 数据集上进行了实验验证其有效性。

Jul, 2019

基于蒙特卡罗双子架构的卫星图像超分辨率策略演员

本研究探讨了如何将强化学习与卷积神经网络相结合来用于高分辨率遥感图像的超分辨率。通过参数化动作矩阵和蒙特卡罗采样，成功地解决了超分辨率问题，并将监督模型嵌入到强化学习框架中，实现了更好的效果。

Apr, 2020

元学习概率推断用于预测

该论文提出了一个新的旨在使学习更加高效和通用的框架，其基于元学习近似概率推理的概率解释，并使用具有灵活、多用途的摊销网络的实例构造一个不同于传统优化的、在测试时间内通过推理网络进行前向传递的框架 VERSA，该方法在对基准数据集进行的评估中取得了最新的最好成果，可以处理任意数量的 FEL-SHOT 和分类任务，在挑战性的 FEL-SHOT ShapeNet 视图重建任务中也得到了验证。

May, 2018