应用 Transformer 网络和 BERT 语言模型，将包含多种数据模式的电子病历编入一个统一矢量表示，从而实现了病人就诊数据的高效表示，这种方法在 MIMIC-III ICU 数据集上得到了出色的性能和可泛化性。

Aug, 2019

本文旨在研究如何利用编码 - 解码模型，从个人健康数据中自动生成高质量的自然语言总结，在帮助用户了解自己的健康状况和行为习惯的基础上，摆脱个人健康数据量大、上下文不连贯等问题，实现个人健康数据自动化总结的初步目标。

Jul, 2022

研究使用序列到序列的方法自动提取可以应用于类似时间序列学习任务的通用且有意义的特征。所得到的有意义的特征不仅避免了特征工程，还可以用于半监督学习，并且在从可穿戴和环境传感器收集的数据集上进行了评估。

Jul, 2019

该论文提出了一种名为 activity2vec 的无监督学习技术，利用可穿戴设备实时跟踪用户的生活方式，从而学习和总结离散值活动时间序列。 该方法在四个障碍物预测任务中比基线表现更好，并通过促进对抗训练来提高特征的一般性。

Nov, 2018

通过自我监督学习方法，将地理空间活动时间序列转化成任务无关的时间嵌入表示，然后使用深度语义分割，将这些嵌入转换成用于下游任务的基于图像通道的表示，实现对住宅区和商业区等不同类型用地的分类。

Apr, 2023

提出了一种语言增强的基于转换器的框架，用于在连续、分类、二进制和自由文本功能之间进行信息集成，以更准确地估计医学干预的持续时间，并在 US 和 Asian 的数据集上证明了其有效性。

Mar, 2023

本文提出了一种无监督表征学习方法，可以紧凑地编码视频中的运动依赖。利用 RNN Encoder-Decoder 框架预测序列化的原子级 3D 流，以有效地减少学习框架的复杂性。该方法可以用于运动分类和识别等多种应用。

Jan, 2017

通过对电子医疗记录的自动提取病人活动能力描述方法的分析和研究，我们发现领域适应的单词嵌入技术可用于病人活动能力的命名实体识别问题，并且在精确度和召回率方面均表现良好，但需要克服出现的巨大语言变异的挑战。

Jun, 2018

本研究提出一种增量用户嵌入建模方法，通过使用转换编码器将用户的最近交互历史的嵌入动态集成到累积历史向量中，从而实现个性化用户表示的学习，并成功将其应用于 Reddit 数据集的个性化多类分类任务中，并在评论历史编码和任务建模方面相应地实现 9% 和 30% 的相对提升。

Feb, 2022

通过自然语言将运动特征量化为可解释的方式，并测量其在隐藏状态中的嵌入程度，从而使我们能够控制基于 Transformer 的运动预测模型的文本输入，为与这些模型进行交互和理解提供独特的界面。

Jun, 2024