通过自我监督学习从未标注的数据中提取丰富的表示，避免了对大规模数据集的标注成本。本研究针对在线手写文本的不断发展应用，提出了一种新颖的基于笔画部分遮罩的预训练任务 (POSM)，用于从英语和汉语两种语言的个人在线手写中提取信息丰富的表示，以及两种建议的微调预训练模型的流程。为了评估提取表示的质量，我们使用内在和外在评估方法。微调预训练模型可实现诸如作者识别、性别分类和利手性分类等任务的最新成果，并凸显了利用预训练模型优于从头开始训练模型的优点。

Oct, 2023

本研究解决了手绘图像自监督表征学习的问题，提出了一种针对手绘图像的特定预处理任务和文本卷积网络的双分支架构，通过在百万级手绘图像数据集上进行的两个应用方法来证明该方法明显优于现有的无监督表征学习方法，并显著缩小了与监督表征学习之间的性能差距。

Feb, 2020

本文提出了一种利用自由可得的多模态内容进行无人监督计算机视觉算法训练的方法，通过挖掘大规模的多模态文档语料库中的语义结构进行话题建模，训练卷积神经网络来预测图像最可能出现为插图的语义上下文，有效地学习了区分性视觉特征，其实验结果表明具有比近期的自监督或自然监督方法更好的图像分类、物体检测和多模态检索的性能。

May, 2017

本文提出了一种自监督方法用于场景素描生成，该方法不依赖于任何现有的场景素描，可将单对象的素描转化为场景素描。通过引入矢量素描字幕和素描语义扩展方法，并设计一个融合多模态感知约束的生成网络，适用于零样本图像到素描的下游任务，实验证明其具有最先进的性能。最后，通过我们提出的素描生成方法，我们贡献了一个以场景素描为中心的大规模数据集，包括高度语义一致的 “文本 - 素描 - 图像” 三元组，该数据集可以显著提升现有模型在基于素描的图像检索和素描控制图像合成任务中的能力。我们将公开提供数据集和代码。

May, 2024

本文探讨了在合成单词图像上进行大规模预训练，以提高四项基准笔迹分析任务的性能。作者利用全监督目标对简单的卷积神经网络进行训练，得到编码笔迹风格的图像向量表示，进而实现了笔迹风格的作者检索、鉴别、验证、分类任务，并展示了该预训练策略提取了作者风格的丰富表征，可以在这些任务中得到与任务特定的最先进方法相竞争的结果。

Apr, 2023

本文研究了文档文本识别的自监督预训练方法，探索了利用未标记数据的方法，并提出了基于掩码标签预测的自监督预训练方法，以及联合嵌入方法和模型崩溃预防技术。通过在历史手写和历史印刷数据集上的实验表明，自监督预训练在目标领域数据上非常有效，但在与之密切相关的领域上的迁移学习上却表现不佳。

May, 2024

手写文本识别 (HTR) 是计算机视觉中一个相关的问题，由于其固有的可变性和对其解释所需的丰富的环境依赖性，其面临独特的挑战。本文研究了一种名为空间上下文自我监督学习（Spatial Context-based SSL）的方法，并探索了该方法在 HTR 中的应用和优化。我们的实验表明，所考虑的方法在一些基准案例中推动了 HTR 领域自我监督学习的最新技术进展。

Apr, 2024

本文比较了三种自监督预训练模型和一个有监督的基线模型，在五个数据集上进行了皮肤病变的诊断。结果表明，自监督预训练模型可以在提高准确性和降低结果的变异性方面与有监督的基线模型相媲美，尤其在数据量少的情况下表现更加稳定和优秀。

Jun, 2021

本论文综述了自监督语音表示学习的方法及其与其他研究领域的联系，讨论了将学习到的表示推广到语音识别以外的应用的最新研究进展。

May, 2022

我们研究了应用于手写验证任务上的自监督学习方法，对比了多种生成式对比式自监督学习方法和手工特征提取器以及有监督学习在 CEDAR AND 数据集上的表现。结果显示，基于 ResNet 的变分自动编码器（VAE）在准确度上超越其他生成式方法，达到 76.3% 的准确度；而使用方差不变协方差正则化（VICReg）进行微调的 ResNet-18 在准确度上超越其他对比式方法，达到 78% 的准确度。使用预训练的 VAE 和 VICReg 进行下游的写作者验证任务，相对于 ResNet-18 有监督基准模型和 10% 的写作者标签，准确度相对提高了 6.7% 和 9%。

May, 2024