一个利用 Wasserstein 距离减少情感计算中受主体影响噪声的新型损失函数

Aug, 2023

一个利用 Wasserstein 距离减少情感计算中受主体影响噪声的新型损失函数

A Novel Loss Function Utilizing Wasserstein Distance to Reduce Subject-Dependent Noise for Generalizable Models in Affective Computing

PDF

Nibraas Khan, Mahrukh Tauseef, Ritam Ghosh, Nilanjan Sarkar

TL;DR我们提出了一种利用深度学习和新型代价函数来检测情绪状态的方法，该代价函数利用了 Optimal Transport Theory 中的 Wasserstein Distance 来缩放个体相关数据的重要性，从而提高对所有参与者共同的数据模式的重要性，降低个体相关噪声的重要性。在四个常用数据集上的对比实验中，我们的模型在最小距离和质心欧氏距离方面相对于基线模型平均分别增加了 14.75％和 17.75％。

Abstract

emotions are an essential part of human behavior that can impact thinking, decision-making, and communication skills. Thus, the ability to accurately monitor and identify emotions can be useful in many human-cent

emotions deep learning physiological data affective states cost function

发现论文，激发创造

使用 Wasserstein Loss 进行学习

本文提出了一个基于 Wasserstein 距离的多标签学习损失函数，基于概率度量体提供了一种自然的概念。该算法可以有效鼓励模型在输出空间中使用所选度量的平滑性，并用 Yahoo Flickr Creative Commons 数据集上的标签预测问题验证了性能。

Jun, 2015

图像增强的投影分布损失

本文研究使用从目标识别 CNNs 中获取的特征来衡量图像之间的感知相似度，并使用差分距离函数训练图像增强模型，并表明聚合 CNN 激活之间的 1D-Wasserstein 距离比现有方法更可靠，并且可以在各种成像应用中显著提高感知性能。

Dec, 2020

基于 Watson 感知模型的生成神经网络的损失函数

为了训练变分自编码器以生成真实图像，我们提出了一种基于 Watson 视觉模型的损失函数，通过计算颜色图像中的加权距离和掩模来反映人类对图像相似性的知觉，并将其拓展到彩色图像上。在实验中，VAE 利用新的损失函数进行训练可生成更真实、高质量的图像样本，相较于欧几里得距离和结构相似性指数，图像模糊度更低，与基于深度神经网络的损失相比，新方法需要更少的计算资源，并且生成的图像具有更少的伪影。

Jun, 2020

学习 Wasserstein 嵌入

本文介绍一种利用同配网络和解码器实现对 Wasserstein 距离进行逼近的方法，该方法可用于快速处理优化问题，如重心、主要方向或原型，在图像数据集上已经进行了实验。

Oct, 2017

使用 Wasserstein 距离的高斯词嵌入

该研究提出了一种使用 Wasserstein 距离作为损失函数的高效高斯词嵌入模型，并利用 ConceptNet 进行半监督学习，以获得更丰富的语义信息和更好的性能。

Aug, 2018

小批量 Wasserstein 学习：渐近和梯度特性

本文对最优传输距离的使用进行了探索，指出在大规模数据集上计算这些距离的方法是通过平均几个较小的最优传输问题的结果。我们论证了这种方法等效于原问题的隐式正则化，并具有无偏估计，梯度和期望值周围的集中度约束等吸引人的属性。同时我们还开展了梯度流、GAN 或颜色转换等经验实验，以突出这种策略的实际价值。

Oct, 2019

通过明确的 Wasserstein 最小化，逐步半离散地训练生成网络的方法

本文提供一种简单的过程，用于将生成网络适配成目标分布，从而实现小的 Wasserstein 距离，从而逐渐将生成器网络调整为目标分布。在 MNIST 和 Thin-8 数据的训练和测试集上，实现了良好的性能。

Jun, 2019

一种最优传输的泛化视角

该研究使用算法传输成本的期望 Wasserstein 距离得到了学习算法泛化误差的上界，为通过最优传输视图研究学习算法的泛化提供了新途径并对损失函数施加了较少的限制，并通过总变差距离、相对熵和 VC 维度提供了几个其他的算法传输成本的上界，最后基于我们的建立的框架，我们分析了深度学习中的泛化误差并得出了结论：深度神经网络中的泛化误差随着层数的增加而指数级下降。

Nov, 2018

基于分值的生成建模暗中最小化 Wasserstein 距离

本文研究在适当的假设下，基于得分函数的生成模型可以最小化与真实数据分布之间的 Wasserstein 距离，同时说明此类模型的目标函数与生成分布和数据分布的 Kullback-Leibler 散度等价，并通过优化输运理论的新颖应用来证明我们的理论成果，同时通过数值实验进行支持，并提供了一些获得更紧密上限的技巧。

Dec, 2022

Wasserstein-2 生成网络

该论文提出了一种新颖的端到端非极小算法，用于训练最优输运映射以逼近 Wasserstein-2 距离，并使用输入凸神经网络和循环一致性正则化来近似 Wasserstein-2 距离，解决了流行的熵和二次正则化中存在偏差和高维度缩放问题的不足，并在诸多任务上进行了实验评估。

Sep, 2019