基于强化学习的成像系统设计

ICCVSep, 2023

DISeR: Designing Imaging Systems with Reinforcement Learning

Tzofi Klinghoffer, Kushagra Tiwary, Nikhil Behari, Bhavya Agrawalla, Ramesh Raskar

TL;DR通过将成像系统的四个组成部分组织成上下文无关语法（CFG），并通过学习的相机设计器，以任务特定的感知模型共同优化成像系统，我们展示了一种通过强化学习实现相机设计师的智能搜索策略，用于智能搜索可能成像系统配置的组合空间，以实现两个任务：深度估计和自动驾驶车辆相机架设计。结果表明，我们的方法优于行业标准，并且认为我们的方法是自动化成像系统设计的重要一步。

Abstract

imaging systems consist of cameras to encode visual information about the world and perception models to interpret this encoding. Cameras contain (1) illumination sources, (2) optical elements, and (3) sensors, w

imaging systems camera designer perception models reinforcement learning camera rig design

发现论文，激发创造

通过想象和达到视觉目标来跟随指示

本文提出了一种基于空间推理和 RL 框架的学习方法，通过想象视觉目标并选择适当的行动来完成任务，使用单一外部奖励信号和内部动机来学习，该方法在两个仿真 3D 环境中，进行了验证，并在处理物体排列任务时，优于两个扁平化架构和一个分层架构。

Jan, 2020

基于蒙特卡罗双子架构的卫星图像超分辨率策略演员

本研究探讨了如何将强化学习与卷积神经网络相结合来用于高分辨率遥感图像的超分辨率。通过参数化动作矩阵和蒙特卡罗采样，成功地解决了超分辨率问题，并将监督模型嵌入到强化学习框架中，实现了更好的效果。

Apr, 2020

利用交互感知在杂乱场景中找到物品

研究了基于强化学习的互动感知系统在场景探索和物体搜索方面的应用，结果表明该方法不再需要预定义的启发式模型，可在模拟和现实世界中有效地解决这一任务。

Nov, 2019

通过对话策略和语言生成之间的替代优化构建面向任务的视觉对话系统

本研究提出一种新的框架，可有效学习任务导向视觉对话系统的最优对话策略，并在 GuessWhich 任务中实现了最新的任务完成和对话质量表现。

Sep, 2019

视觉先见：基于模型的深度强化学习在基于视觉的机器人控制中的应用

本文提出了一种实用于实际机器人任务 -- 如机器人操作 -- 的深度强化学习算法，并在无人监督的情况下使用自我监督的基于模型的方法来训练预测模型，通过选择指定像素、目标图像或图像分类器作为目标设定方法，探索实现前所未见的任务和物体的普遍泛化。

Dec, 2018

在杂乱环境中学习感知敏捷飞行

提出了一种基于学习的系统，通过模仿学习和强化学习的结合，实现了感知感知，在杂乱环境中实现了敏捷的飞行，并通过闭环控制演示了其性能。

Oct, 2022

能否使用强化学习学习图形模型推理的启发式方法？

使用强化学习技术学习高阶条件随机场中的推理任务，有效地解决了计算机视觉中语义分割的难题，并在 Pascal VOC 和 MOTS 数据集上获得了令人信服的结果。

Apr, 2020

想象目标的视觉强化学习

介绍了一种通过结合无监督表示学习和强化学习来获得一般技能库的算法，可以处理原始感官输入（如图像），并使用后期目标重新标记方案来进一步提高其方法的样本效率，在实际机器人系统上获得了比之前的技术更好的效果。

Jul, 2018

SOLAR: 基于深度结构化表示的模型驱动强化学习

本文提出了一种适合于迭代模型增强策略，即使在具有复杂图像观测的情况下，学习简单动态和成本模型的表示方法，使得基于线性二次调节器（LQR）的基于模型的 RL 方法可用于具有图像观测的系统，并在包括通过图像直接操作真实世界机器人臂的操作中评估该方法，发现我们的方法相比其他基于模型的 RL 方法产生更好的最终性能，同时比无模型 RL 更高效。

Aug, 2018

城市环境下驾驶的有条件能力学习

该研究提出了一种基于直接感知的自主驾驶方法，在城市环境中能够根据高级方向输入进行自主导航，同时能够识别交通信号灯和速度标志，降低车辆事故率。

Jun, 2018