关键词pre-training algorithms
搜索结果 - 3
- 关于视觉 - 动作预训练数据集的客观观察
通过对机器人的预训练数据集进行集中分析,我们发现常规视觉数据集对于视觉 - 运动表示学习是竞争力强的选择,此外,预训练数据集的图像分布比其规模更为重要,同时简单的正规化策略可以显著改善真实世界策略学习。
- 实质还是风格:你的图像嵌入知道什么?
通过对多种视觉 embedding 进行系统转换任务的测试与比较,发现不同的网络预训练算法会在 embedding 中编码不同类型的图像非语义信息,并且这些信息可以被有效地利用到一些特定的下游应用中。
- 语言模型预训练用于层次文档表示
从无标注数据中预训练了一种能够包括来自整个文档的上下文信息的分层文档表示,包括定长的句子 / 段落表示,并应用于文档分割、文档级问答和抽取式文档摘要等方面取得了有效结果。