embedding dimensions | BriefGPT

关键词embedding dimensions

搜索结果 - 5

ACL使用预训练转换器进行人类级自然语言处理的实证评估：样本大小和维度的作用
本文系统研究了在人类级别 NLP 任务如何通过降维方法及向量嵌入维度与样本大小来提高预测性能，其中 RoBERTa 模型在使用 PCA 降维时处理长文本用户表现更佳，大多数任务仅需 1/12 的向量嵌入维度即可达到最佳表现。
PDF3 years ago
为推荐设计的内存高效嵌入
本文介绍一种基于 AutoML 的框架（AutoDim），该框架可以以数据驱动的方式自动为不同的特征字段选择维度，并在基准数据集上进行了广泛实验来验证其有效性。
PDF4 years ago
用于推荐系统的可微分神经输入搜索
该论文提出了 Differentiable Neural Input Search（DNIS）方法，通过连续弹性和可微分优化在更灵活的空间内搜索混合特征嵌入维度的相对重要性，并且在模型验证性能的基础上优化。实验结果表明，相较现有的神经输入搜
PDF4 years ago
COLING自动提取引语引起注意
本文提出自动提取引语的任务，通过一系列的基线方法，包括手工特征、神经混合专家和跨任务模型等方法，揭示了提取引语对于阅读理解的重要性，从而为如何吸引读者提供了新的认识。
PDF4 years ago
大规模推荐模型的神经输入搜索
该研究提出 Neural Input Search 技术，它通过强化学习自动学习在记忆限制下最优的分类特征嵌入维度和词汇大小，相较于传统的 Single-size Embedding，采用一种新型的嵌入方法 ——Multi-size Emb
PDF5 years ago