- 模仿复杂轨迹:连接低层稳定性和高层行为
我们提出了一个理论框架,用于研究非马尔可夫、潜在多模态(即 “复杂的”)专家示范在非线性动力系统中的模仿。
- SASS:面向主题感知的句子简化数据和方法
本文提供了一个数据集,旨在训练旨在执行主题感知句子简化而不是整体简化的模型,测试使用摘要归纳中使用的模型架构。结果显示,数据增强,数据遮蔽和摘要中使用的模型架构对主题感知简化提供了可靠的基线比较。
- 从未调校的教师中抽取定性的学生
本文提出一种方法,在通过知识蒸馏传递信息来从教师网络中提高浅层学生网络性能的同时,生成一个校准的学生模型,该方法依赖于数据增强技术的融合并扩展了传统知识蒸馏,因此可用于关系知识蒸馏和对比表示蒸馏,并在 CIFAR-10,CIFAR-100, - DeiT III:ViT 的复仇
本文改进了一种用于训练 Vision Transformer (ViT) 的全监督训练方法,通过仅使用三种数据增强方式,此方法优于之前的全监督训练方法,并且在图像分类、迁移学习和语义分割等任务中表现出色,同时也为 ViT 的自我监督方法提供 - ACLCipherDAug:基于密文的神经机器翻译数据增强
该研究提出了一种新的数据增强技术,基于 ROT - k 密码文本。通过使用 ROT - k 加密训练数据与原始数据一起进行多源训练,我们的方法 CipherDAug 使用协同正则化风格的训练过程,在低资源环境中比强数据增强技术表现得更好。
- 为什么自监督模型能够迁移?—— 探究不变性在下游任务中的影响
本文研究了自监督学习在图像中表征学习的应用,通过对比实例匹配方法,我们发现不同的视觉任务需要不同的数据扩充策略,并且使用具有互补不变性的表征方法可以提高各种下游任务的表现。
- ResNet 归来:一种改进的 timm 训练过程
本文重新评估了使用新的优化和数据增强方法训练的基准 ResNet-50 模型的性能,并以此为基线,在 ImageNet 数据集上获得了 80.4%的 top-1 准确率,同时提供了预训练模型和更好的训练设置。
- ResMLP:用于图像分类的前馈网络与高效训练
ResMLP 是一种基于多层感知器的图像分类架构,在现代训练策略(包括数据扩增和引入先验)的支持下在 ImageNet 上取得了令人惊讶的良好准确性 / 复杂度平衡,并通过自监督学习进一步去除了基于带标签数据集的先验知识。同时,将该模型应用 - AAAI通过有效的协同分割和数据增强实现自监督的多视图立体匹配
针对现有自监督方法在多视图重建中可能出现的相关点之间颜色不同的问题,本文提出了一种基于语义共分割和数据增强的更可靠监督的框架,其中利用多视图图像中的相互语义来指导语义一致性,同时设计了有效的数据增强机制,以确保对样本的变换鲁棒性。在 DTU - COLING利用多语言 Transformer 和自动翻译增强数据的非英文推文情感分析改进
本文提出利用多语言 Transformer 模型,通过使用自动翻译进行数据增强,来适应非英语语言中的小型推特语料库,以提高转换器的效果。
- 解决训练和测试分辨率不一致的问题
本文研究了如何通过使用低分辨率图像进行数据增广和微调来提高神经网络在图像分类中的性能,特别是在训练和测试分辨率不同时。通过实验证明,这种方法可以提高分类器的准确率,在 ImageNet 数据集上的单张图片分类准确率达到 86.4%(top- - ACL核指消解中的性别偏见:评估与去偏方法
本研究介绍了一个新的基准数据集 WinoBias,用于解决与性别偏见有关的指代消解问题。通过数据增强方法,结合现有的词嵌入去偏置技术,可以消除核心指代消解系统对 WinoBias 数据集中男女刻板定型实体的偏见,同时不会显著影响系统的表现。
- EMNLP全局归一化阅读器
通过迭代式搜索及全局归一化决策的神经网络,提出了可提取答案的问答系统并进行了数据增强及实验优化。
- 使用引导式方法的贝叶斯估计多维扩散过程离散观测
本文提出了一种新的框架来解决扩散过程参数估计中存在的难题,并将其应用于 Markov 链蒙特卡罗法中的数据扩充。该方法使用了一种基于随机游走的 Metropolis-Hastings 采样器来更新扩散程的参数,成功地解决了先前方法中的困难点 - 使用 Polya-Gamma 潜变量进行逻辑回归模型的贝叶斯推断
本文提出了一种新的数据增强策略,基于多项式 Gamma 分布,用于贝叶斯模型中的后验推断。经过实验证明,该方法在回归模型中表现优异,且具有简单、高效等优点。