unsupervised data | BriefGPT

关键词unsupervised data

搜索结果 - 11

在连续学习中利用测试时间数据控制遗忘
通过利用测试数据进行自我监督，以减少遗忘，并提出了基于梯度稀疏参数更新的简单但有效的学生 - 教师模型，进而显著改善了模型的性能和减少了遗忘。
PDF13 days ago
学习潜在层次模型中的离散概念
从高维数据（例如图像）中学习概念对于构建与人工智能模型相符且可解释的机器学习模型具有潜力。本研究通过将概念形式化为离散潜在因果变量，并使用嵌入在高维数据中的概念的层次因果模型来提供理论洞见与条件，以促进从无监督数据中学习这些概念的可行性。通
PDFa month ago
通过前向触觉表示的示范学习力导向动作的少样本学习
通过半监督的学习方式，本研究在操作机器人通过感知力及学习示范来识别实物属性并生成所需运动的过程中，采用了力传感、从示范学习、无监督数据和触觉表示编码器等关键技术。结果表明，通过预训练，该学习方法在未知海绵上成功地识别了物理属性并生成了期望的
PDF10 months ago
SemPPL: 为获得更好的对比表示而预测伪标签
提出了一种新的半监督学习方法 —— 通过伪标签的语义正例（SemPPL），结合标记和未标记的数据来学习信息表示，其通过自监督对比学习扩展了一种新的方法来选择正例。
PDFa year ago
域和相关性分离建模用于可适应的密集检索
提出一种名为 Disentangled Dense Retrieval（DDR）的新型 Dense Retrieval 框架来支持 DR 模型的有效和灵活的领域自适应，该框架包括一个 Relevance Estimation Module（
PDF2 years ago
利用真实对话数据实现多渠道连续语音分离
本研究提出一种可同时利用有标注数据和非标注数据进行连续语音分离模型训练的三阶段训练方案，并将其应用于任意麦克风阵列采集的多通道语音数据上取得了较好效果。
PDF2 years ago
利用无监督和弱监督数据，提高直接语音翻译的准确性
本文旨在通过多种方法利用无监督和弱监督的语音和文本数据来提高基于 Translatotron 2 的直接语音到语音翻译系统的性能，实现在 21 种语言对上 BLEU 值提高 13.6（相对增长 113%），特别是对于低资源语言的提高更为显著
PDF2 years ago
对比式预训练用于文本与代码嵌入
本文研究了使用对比方式的自监督无监督训练大规模文本向量化，得到的向量在文本与代码搜索中表现优异，相较于之前使用监督学习方法的实验结果，相对提升了 4% 到 23.4% 不等。
PDF2 years ago
ACLCLEVE: 事件抽取对比预训练
CLEVE 是一种对事件抽取进行对比预训练的框架，可以从大规模无监督数据和自动解析器获得的语义结构中更好地学习事件知识，并在传统的监督学习和无监督的事件抽取中显着提高了性能。
PDF3 years ago
联合掩码 CPC 和 CTC 训练用于自动语音识别
这篇论文介绍了一种利用自监督学习方法，通过单阶段训练自动语音识别模型，利用标记数据和非标记数据来训练模型，实现了对下游任务性能的直接优化，并在 Librispeech 100-hour 数据集上实现了类似于 wav2vec ~2.0 的词
PDF4 years ago
图像字幕半监督框架
提出了一种新的图像字幕生成方法，该方法能够利用无图像数据的文本数据，并使用区域图像特征生成有意义的二进制向量，从而获得更准确和多样化的字幕。该方法的主要优点是能够生成具有 Salient 图像属性的有意义的二进制向量，并通过软关注机制对其进
PDF8 years ago