物理启发的密集融合网络用于重新照明
本文提出一种基于深度学习的图像重照明网络,包括场景重建、阴影先验估计和渲染器,能够在无需几何结构信息的情况下使图像在新的光源方向下重照明,并在 AIM2020 - Any to one relighting challenge 中取得最佳 PSNR 的成果。
Aug, 2020
采用深度模型或物理模型是解决可编程照明计算显微术中逆采样重建问题的两种主流方法。本文结合深度模型和物理模型的优势,提出了一个由三个子神经网络组成的混合框架,在计算显微术中快速解决计算重建逆问题并取得更好的结果。该框架通过深度学习神经网络获得富含语义信息的结果,并将其作为物理网络的初始值,保证输出符合物理过程约束。两个结果作为输入传递给融合深度学习神经网络,进一步增强图像质量。验证了该混合框架的可行性和有效性,通过理论分析和实际实验在分辨目标和生物样本上。
Jan, 2024
本文提出了一种使用神经渲染框架的方法,通过利用预测的深度数据和光源分割掩模,从单个图像中编辑复杂室内照明,解决了通过局部 LDR 场景观察从而对 HDR 照明进行建模和分离的难题,其特点在于综合使用场景重建和参数化 3D 照明的方法。
May, 2022
通过基于单图几何重建的框架实现针对人体的单张图片重照,在去除光照的同时,通过采用经过修改的 HRNet 和基于光线追踪的每像素灯光表示方法,恢复逼真的阴影,展现出包括硬阴影在内的高频阴影效果,优于先前的方法。
Jul, 2022
本文研究基于物理学原理的图像形成模型的深度学习架构,包括去除图像光线和校正漏光,并应用到肖像摄影数据库中。结果表明,该模型可以实现精确和可信的照明结果,并且可以推广到复杂的光照条件和挑战性姿势,包括主体未直视相机。
Jun, 2019
这篇研究论文介绍了一种基于深度学习的多模态分支网络 (MBNet) 方法,利用深度地图对图像进行照明重新校准,并通过动态膨胀金字塔模块进行解码以有效地使用图像和深度特征。同时,提出了一种新的数据处理流水线以增加训练数据的多样性。在 VIDIT 数据集上的实验表明,该方案在 NTIRE 2021 深度指导一对一照明挑战赛中达到了 SSIM 和 PMS 方面的第一名。
May, 2021
通过使用堆叠深度多尺度分层网络,我们提出的解决方案在不同尺度的每个图像中聚合特征,可有效地从输入图像到目标图像转换图像照明设置,同时使用两个不同的损失函数,多步训练方法可显著提高性能,并实现光照变换的高质量重构,从而使照片增强成为无需人为干预的可能。
Jul, 2021
这篇论文提出了一种新方法,通过使用虚拟光源阵列来生成数据集,以代替使用高昂的专用抓取设备,从而实现高质量人像重新照明,同时保持真实感和物理上的一致性。
Sep, 2022
我们的研究引入了一种将重照和内在分解相结合的方法,通过利用场景中的光变化生成伪标签,为内在分解提供指导,同时确保对不同场景类型的稳健性,并减少对预训练模型或手工先验的依赖。我们在合成和真实世界数据集上验证了我们的方法,并取得了令人信服的结果。此外,我们的方法在图像编辑任务中的适用性显示出了有希望的结果。
Jun, 2024