linguistic complexity | BriefGPT

关键词linguistic complexity

搜索结果 - 7

信息过载：为 BabyLMs 保持简单的训练
荷兰格罗宁根大学对 BabyLM 挑战的工作细节。通过简单 - 复杂的策略，我们研究了语境大小、词汇量和数据的总体语言复杂性等方面，发现只有语境大小对训练语言模型有真正的益处。然而，仅仅改变语境大小就让我们在（Super）GLUE 任务上平
PDF8 months ago
EMNLPLing-CL: 通过语言学教学计划理解 NLP 模型
通过分析多个基准 NLP 数据集，我们的课程学习方法识别到了一系列语言度量（指标），这些指标揭示了每个任务所需的挑战和推理，从而使得我们的工作在所有 NLP 领域中提供了未来研究的参考，并且在研究开发过程中早期考虑了语言复杂性。此外，我们的
PDF8 months ago
ChiSCor：荷兰儿童自由叙述的奇幻故事语料库，供计算语言学和认知科学使用
本研究详细介绍了 ChiSCor 的构建过程，并展示了其在三个简短的案例研究中的潜力：首先，展示了故事的句法复杂度在儿童年龄段之间相对稳定；其次，扩展了关于自由言论中 Zipf 分布的研究并展示了 ChiSCor 与社会环境反映了 Zipf
PDF8 months ago
BERT 和深度模型压力测试：从意大利诗歌中预测单词
该研究使用 BERT 在诗歌领域的意大利句子中实验并发现 DL 模型对于非规范结构的敏感性较高，而使用 subword units 可以解决 BERT 中的一些单词的意思不明确的问题。
PDFa year ago
文本生成的统一复杂度
本文介绍了 Uniform Complexity for Text Generation (UCTG)，它是一项挑战，旨在使现有模型生成与输入语句或提示相对应的均匀复杂度的文本。在受控叙述生成任务中，我们发现 GPT-2 模型甚至人类在保持
PDF2 years ago
运用预训练语言模型，结合语言复杂度及（不）流利特征来检测阿尔茨海默病患者的自发言语
通过将语言复杂度和（不）流畅特征与预训练语言模型相结合，成功地在 2021 年 ADReSSo（阿尔茨海默病性痴呆症通过自发性言语识别）挑战赛的阿尔茨海默病检测任务中取得了 83.1% 的准确率，这是基准模型的 4.23% 的提高，并且在交
PDF3 years ago
ACL关于词形变化系统的复杂性和类型学
我们量化不同语言形态系统的语言复杂度，揭示了屈折范式的大小和不规则程度之间的经验权衡，即一种语言的屈折范式可以是大小大，或高度不规则，但永远不会两者兼备。我们的方法体现了屈折范式的熵 - 即共同预测范式所有表面形式的难度。我们通过变分逼近估
PDF6 years ago