Signatory:可微分签名和对数签名变换的CPU和GPU实现
本文介绍了路径签名方法及其在数值计算和机器学习中的应用,对路径签名与粗路径理论也进行了讨论,并介绍了将数据转换为多维路径所使用的嵌入算法,以及如何将签名作为特征用于机器学习任务。
Mar, 2016
本研究提出一种创新的方法,将深度学习和 Signature 变换结合起来,通过对数据流进行增强,并利用 Signature 变换来选择 Signature 的项,从而可以实现数据依赖性的学习,同时在神经网络中任意地使用 Signature 变换作为一种池化操作。
May, 2019
本文介绍了基于符号的优化方法在分布式优化中有良好的通信成本和在神经网络训练中具有出色的性能。同时探讨了分离平滑性与∞-平滑性之间的联系,指出后者是更弱和更自然的假设。研究表明,在深度网络中,如果Hession矩阵在对角线方向上集中,并且其最大特征值远大于平均特征值,则符号法比梯度下降更优。
Feb, 2020
本文提出了利用对抗多通道模型进行手语翻译的方法,在模仿人类手语制作过程中加入非手势要素,如面部特征和口型模式,以提高语言翻译的准确度。我们采用基于转换器的生成器和条件判别器的最小化极值过程,根据来源文本制作符合实际的手语,并在 RWTH-PHOENIX-Weather-2014T (PHOENIX14T) 数据集上进行了评估和表现改进。
Aug, 2020
本文设计了名为TurboTransformers的transformer服务系统,包括计算运行时和服务框架,能够以很少的代码集成到PyTorch中,在GPU平台上实现最先进的transformer模型服务性能。
Oct, 2020
signSGD与随机重排(SignRR)在非凸优化中具有相同的收敛速率,我们还提出了利用减小方差的梯度和动量更新的SignRVR和SignRVM算法,且将这些算法扩展到数据在不同机器上分布的情况。
Oct, 2023
该论文通过理论分析和实验证明了前人工作中原梯度失败的原因,并提出了一种新的原梯度下降算法,该算法在各种情况下优于传统的投影梯度下降算法,并且不增加任何计算开销。
Dec, 2023
提出了一种基于一致性阈值距离分类器准则的离线依赖作者的签名验证方法,通过SigNet和SigNet-F深度卷积神经网络模型提取的特征,最小化了假接受率,并在多个数据集上进行了实验证明了该方法相比现有的文献成果,在减小误分类错误的同时,将冒充者获取敏感文档或交易的风险降到最低。
Jan, 2024
通过利用对数正态原理模拟复杂的神经运动控制过程,本文提出了一个框架来生成合成的3D空中签名,该技术可以在自动签名验证中支持决策制定,包括合成完全3D新签名的轨迹和速度、只有3D轨迹的动力学信息以及3D真实签名的重复样本。我们通过生成模拟真实数据库的合成3D签名数据库,并展示了与真实和合成数据库相似的真实和熟练伪造签名的自动签名验证性能,证实了我们的提议的有效性,并证明该提议对于合成3D空中书写和手势也是有效的。最后,一个感知测试确认了生成的样本的人类相似性。
Jan, 2024