Aug, 2014

谨慎假设显而易见：对 “最小化在线记忆的头部放置：一种复杂系统方法” 的评论

PDF
TL;DR这篇论文提出了一个基于语言学假设的单词顺序的数学模型，并指出单词顺序和记忆成本之间的交互具有进一步的研究深度。
word ordermemory costslinguistic assumptionstypologypsycholinguistics
发现论文，激发创造
  • 最小化在线存储的头部位置：一种复杂系统方法

    通过将元素数量视为从奇数到偶数的前一个情况的过度，论文研究了在线存储成本的诸多方面，并证明将核心放在中心可以最小化在线内存成本。

    Sep, 2013

  • 最大化可预测性的头部定位：一种信息论方法

    从信息论的角度出发， 增加了一个竞争性的语序原则：目标元素可预测性的最大化，进一步完善了词序的数学理论。 然而依存长度的最小化与可预测性最大化之间存在矛盾，对于头的最大化可预测性，头应该出现在最后，这最大化了相对于依存长度最小化的成本。本文回顾了这种广泛的理论框架对于理解主语，宾语和动词 6 种可能排序的最优性，多样性和演化的影响。

    May, 2017

  • 回复 P. Alday 的评论《在做明显假设时要小心

    本文讨论了语言学理论中的统计模型对词序的假设以及依存长度的测量单位和依存成本的单调性，并指出 Alday 在多个维度上的经济性关注为语言学研究提供了新方向。

    Dec, 2014

  • 名词短语中头部的最佳位置 —— 限定词、数词、形容词和名词的案例研究

    词序受多个原则影响，句法依赖距离最小化原则与预测性最大化原则在单头句法依赖结构中产生冲突，当涉及到名词短语时，确认通过语言的首选顺序进行测试，名词倾向于位于首尾位置，并表现出反定域效应：首选顺序中的句法依赖距离较长。

    Feb, 2024

  • 广义最优线性排序

    本文探讨了语言处理中的单词顺序问题，并提出了基于语言学、心理语言学、计算语言学和自然语言处理的理论模型。进一步，为了优化处理单词最小化相关性，提出一种新的单词顺序，重点关注远距离依赖的人类和计算语言处理困难。最后探讨这些单词顺序对于人类语言和计算模型的影响。

    Aug, 2021

  • 无需语法的词序排列

    研究表明，使用 n-gram 语言模型和 LSTM 语言模型可以更有效地恢复句子的顺序，比一些最先进的句法模型表现更好。

    Apr, 2016

  • 认知驱动的语言模型中的词序普遍规律

    语言的世界呈现出特定的类型学或意向性普遍现象；例如，主 - 宾 - 动 (SOV) 的语序通常使用后置词。通过语言模型的计算模拟，我们研究了语序普遍现象。我们的实验表明，具有类型学典型语序的语言模型的困惑度较低，其中包括认知可行的偏见：句法偏见、特定分析策略和记忆限制。这表明认知偏见和可预测性（困惑度）之间的相互作用可以解释语序普遍现象的许多方面。这也展示了在计算模拟语言普遍现象时的认知驱动语言模型的优势，这通常在认知建模中使用。

    Feb, 2024

  • 句法依赖距离的优化性

    通过空间网络将句子中单词的语法依赖关系表示为优化问题，引入新的评分方法来量化减少单词距离的认知压力，研究 93 种语言的句子，发现这种方法能准确评估大约一半的语言的优化水平，并对各个领域的语言研究提供了启示，特别是对网络科学有重要意义。

    Jul, 2020

  • 通过迭代洗牌研究词序

    通过使用一种新的称为 IBIS 的过程，本文否认了一种假说，即单词顺序对于进行 NLP 基准任务而言必须编码含义的观点，我们在 GLUE 套件和各种英语文本流派中的多种情况下证明这一点，并探讨了诸如 IBIS 这样的洗牌推理过程如何有益于语言建模和约束生成。

    Sep, 2021

  • 人类语言高效的信息排序

    研究了五种语言中的词序的效率和局部词汇概率，提出了语言能力的偏见来自大脑对语言的理解，促使人类语言代际传播的方式不断变化。

    Oct, 2015