本研究分析了遮罩语言模型（如 BERT）如何学习上下文表示，提出了 TACO 作为一种直接对全局语义进行建模的表示学习方法，通过在 GLUE 基准测试中的实验，证明了 TACO 相比现有的 MLMs 可以提高 5 倍的速度和 1.2 点的平均准确率。

Apr, 2022

基于主观分类任务，我们提出了适用于文本的 Annotator Aware Representations (AART) 方法，旨在改善采集标注者观点性能，并学习标注者行为特征。

Nov, 2023

该研究提出了一种名为 LA-SCA 的框架，利用序列注释中的专家间的互相不一致性来探索不确定性和歧义，从而有效地保留混淆标签信息。通过建立层次贝叶斯模型来从人群中推断出真实数据并将相对可靠的标注者分组，计算可靠标注者之间的互相不一致性来获取标签混淆信息，并在成本敏感的序列标注中加以应用。实验结果表明，该框架在从人群中推断真实数据、预测未知序列和揭示具有相似可靠性的标注者的标注模式方面均表现出竞争力。

Jan, 2023

依靠众包工人，数据众包平台能够高效地提供大量带标签的数据，本文提出一种名为 SuperLA 的监督标签聚合方法，不需要在推理期间进行模型更新，并且能广泛利用历史标注记录，通过对 22 个公共数据集和 11 个基准方法的比较实验发现，SuperLA 不仅在推理性能上优于所有基准方法，而且在效率方面也具有显著优势。

Nov, 2023

本文提出了新的方法以通过温度调节和 Jensen-Shannon 中心法从众包注释中汇总多个视角的分布，从而获得软标签。我们展示了这些聚合方法在四项自然语言处理任务中表现出最佳或接近最佳的性能，同时还验证了这些方法在任务不确定性估计上表现最佳。

Dec, 2022

提出了 TAC-SUM，一种新颖且高效的无需训练的视频摘要方法，它通过融入时间上下文来解决现有基于聚类模型的局限性。该方法将输入视频分割为具有聚类信息的时间连续片段，使时间感知得以注入到聚类过程中，以突出先前的基于聚类的摘要方法。最终，利用结果中的时间感知聚类，采用简单的关键帧选择和帧重要性评分规则计算出最终摘要。在 SumMe 数据集上的实验证明了我们提出方法的有效性，优于现有的无监督方法，并实现了与最先进的有监督摘要技术相当的性能。源代码可在 https://github.com/hcmus-thesis-gulu/TAC-SUM 找到。

Apr, 2024

本文提出了两个轻量级算法 LA extsuperscript {onepass} 和 LA extsuperscript {twopass}，通过动态贝叶斯网络建模聚合标签，可以有效地、高效地估计工作者质量和真实标签，并可以在不重新访问历史数据的情况下在线估计真正的标签值。

Nov, 2022

本文提出一种名为 Token-Aware Cascade 的算法，使用两种新技术来改进对比学习，包括考虑单词的语法类别的 token-aware 对比损失和应用级联采样方法用于有效评估多模态融合层的损失。实验证明，Token-Aware Cascade 算法在文本 - 视频检索、视频动作定位和视频动作分割等下游任务中表现卓越，超过了以往的方法，成为了 YouCook2、MSR-VTT 和 ActivityNet 等三个公共文本 - 视频检索基准数据集的新的表现最佳算法。

Aug, 2021

研究了利用大型语言模型进行自动标注来进行计算立场检测，引入了多标签和多目标采样策略以优化标注质量，实验证明该方法能明显提高性能和学习效果。

Nov, 2023

本文提出了一种基于贝叶斯图形模型的技术，用于有效地处理高度冗余注释数据，相比于多数真实推断模型，我们的方法得出了更优质的结果。

Feb, 2019