Feb, 2016
正交转换生成的超密词向量嵌入
Ultradense Word Embeddings by Orthogonal Transformation
TL;DR本文介绍了 DENSIFIER，一种能够在词嵌入空间中学习正交变换，将与任务相关的信息聚焦在一个比原始空间小 100 倍的超密集子空间中的方法。我们展示了由 DENSIFIER 生成的超密嵌入在词库创建任务中达到了最先进水平，并在 SemEval2015 10B 情感分析任务中表明超密集子空间的使用不会损失任何信息，但由于超密空间的紧凑性，训练效率提高了一个数量级。