Apr, 2024

基于方向条件的人脸纹理映射用于基于视频的人脸遥感光电容积测量

PDF
TL;DR利用三维面部表面构建一个新颖的基于方向条件的面部纹理视频表示，改善现有基于视频的面部远程光电测量的方法对动态和自由主体运动的鲁棒性。通过在 MMPD 上进行交叉数据集测试，我们的方法在纯净数据集上训练的 PhysNet 模型基线的性能上取得了显著的 18.2% 的改进，突显了我们设计的视频表示的有效性和普适性。在所有测试的动态情景中，即使存在动态和自由主体运动，我们的方法在 MMPD 上得到了高达 29.6% 的显著性能改进。验证了通过对三维面部表面的建模来解释运动的优势，我们通过消融实验验证了我们设计决策的有效性和不同视频处理步骤的影响。我们的发现展示了在视频中利用三维面部表面作为解决动态和自由主体运动的一般策略的潜在优势。该代码可在链接处获得。
remote photoplethysmography3d facial surfacemotion robustnessvideo representationsubject motion
发现论文，激发创造
  • 通过任意分辨率视频学习抗运动影响的遥测脉搏测量技术

    本文提出了两种对非接触式心率估计中长度和面部运动造成的误差进行修正的方法，并且使用一个双流双分辨率框架来训练模型以学习稳健的面部信号特征，实验证明了所提出方法的优越性。

    Nov, 2022

  • 面部视频隐私保护型心率远程估计

    本文提出了一种数据扰动的方法，通过提取少量含有身份相关信息的面部区域进行像素洗牌和模糊处理来解决 Remote Photoplethysmography 数据的隐私问题，实验表明该方法可将面部识别算法的准确性降低 60%，而对 rPPG 提取几乎不产生影响，可作为一种有效的隐私保护方案。

    Jun, 2023

  • 基于相机的皮肤色调横跨数百个受试者的远程生理感应

    本研究分析了目前为止最大的真实世界远程光电容抗数据集，涵盖了 893 名受试者和 6 种菲茨帕特里克皮肤色调，实验结果表明，包含数百名受试者的数据集足以进行有效的远程光电容抗模型训练，并强调了皮肤色调的多样性和一致性对于不同数据集的精确性能评估的重要性。

    Apr, 2024

  • 通过显式和隐式先验知识的融合推动可泛化的远程生理测量

    本文提出了一种利用远程光电容积图术（rPPG）任务中的显性和隐性先验知识的新框架，通过系统分析不同领域的噪声源，并将这些先验知识纳入网络进行训练，同时利用两个分支网络通过隐式标签相关性去除噪声并提取生理特征分布，我们的实验证明，该方法不仅在 RGB 跨数据集评估上胜过现有方法，而且能够很好地从 RGB 数据集泛化到 NIR 数据集。

    Mar, 2024

  • 对比 - 生理学：通过时空对比进行无监督基于视频的远程生理学测量

    本文提出了一种无监督的远程光学脉搏测量方法，利用 3D 卷积神经网络模型以及对比损失训练模型，可以在不需要参照信号的情况下提高精度，并可以更快地运行且更耐噪音。

    Aug, 2022

  • 使用时空网络从面部视频中远程测量光电容积脉搏信号

    通过使用深度时空网络重建精确的远程光学心电图信号，我们提出了一种 rPPG 测量方法，能够从面部视频中测量心率和心率变异性，并在心房颤动检测和情感识别方面取得了有前途的成果。

    May, 2019

  • 基于端到端深度学习和视频增强的高度压缩面部视频心率远程测量

    本文提出了一个两阶段的端到端 RPPG 信号恢复方法，该方法包括视频增强和 RPPG 信号恢复两个阶段。实验结果表明，该方法在压缩视频上表现出色，并且具有很好的泛化能力。

    Jul, 2019

  • 通过对比学习走近我的心：从未标记视频中进行远程光电容积图

    本文介绍了一种远程面部信号分析的新方法，应用了神经网络和自监督训练进行无监督学习，利用对感兴趣信号的弱先验建模，并成功在四个数据集上进行测试，证明了该方法的可行性和效果。

    Nov, 2021

  • rFaceNet：通过身份特定的面部轮廓提取增强生理信号的端到端网络

    介绍了一种名为 rFaceNet 的高级 rPPG 方法，通过整合特定身份的脸部轮廓信息和消除冗余数据，通过时间压缩单元（TCU）高效地从输入视频帧中提取面部轮廓，并使用跨任务特征组合器（CTFC）将模型关注点导向相关的面部区域，提高了 rFaceNet 提取到的面部生理信号的质量和可解释性，同时在各种心率估计基准测试中表现出卓越的性能。

    Mar, 2024

  • 对比 - 生理＋：基于时空对比的无监督和弱监督视频远程生理测量

    视频远程生理测量是利用面部视频测量血容量变化信号，也称为远程光电容抗 (PRP)。本文提出了一种名为 Contrast-Phys + 的方法，可以在无监督和弱监督设置下进行训练。我们使用 3D 卷积神经网络模型来生成多个时空 PRP 信号，并将 PRP 的先验知识纳入对比损失函数中。我们进一步将 GT 信号纳入对比学习，以适应偏向性或错位标签。对比损失鼓励来自同一视频的 PRP/GT 信号进行分组，并将来自不同视频的信号分开。我们在包括 RGB 和近红外视频的五个公开数据集上评估我们的方法。即使在部分可用或错位的 GT 信号或没有标签的情况下，Contrast-Phys + 也优于最先进的有监督方法。此外，我们还强调了我们的方法在计算效率、噪声鲁棒性和泛化性方面的优势。

    Sep, 2023