基于容忍原则推导语言的动力学系统
本论文研究了无监督机器学习在自然语言方面的应用,提出了三种新算法,旨在考察 “刺激贫乏” 问题以验证人类是否具有特定内在语言知识,最终得出刺激贫乏论不受证据支撑的结论。
Dec, 2002
本文描述了一种用于自然语言中的泰勒定律度量的新方法,并对跨 14 种语言的 1100 个文本进行了分析,发现书面自然语言文本的泰勒指数呈现几乎相同的值,同时,还比较了其他语言相关数据的泰勒指数,结果显示出泰勒指数可用于量化语言时间序列的基本结构复杂性,文章还展示了这些发现在评估语言模型方面的适用性。
Apr, 2018
该研究提出了一种语言竞争模型,该模型充分考虑了记忆和学习对语言转移动态的影响,通过使用 Abrams-Strogatz 模型作为起点。模型以讲话者比例的阈值来表达记忆和学习的效应,在最简单的形式下,该模型是可解的。除了两种语言中的共识外,该模型还描述了 Abrams-Strogatz 模型中不存在的其他平衡状态:如果两个阈值都足够低,使得两个相反方向上的语言转移过程相互抵消,将出现两种语言的稳定共存;同时,当这两个阈值对于任何语言转移来说都太高时,将出现与初始状态相符的冻结状态。我们通过数值模拟证明了这些结果在阈值函数形状更一般的情况下仍然成立。
Jun, 2024
通过系统性可控实验,我们研究了互动交互对神经语言学习的影响,发现通过教师示范和学生尝试,互动式语言学习有助于语言模型的词汇学习效率提高。
May, 2024
本研究探讨使用小量未标记数据自动诱导任务型对话系统的端到端方法,利用动态句法和类型理论与记录相结合的增量语义语法和强化学习,其产生的系统是增量的,可以处理 74%的 Facebook AI bAbI 数据集,和 65%的 bAbI + 语料库,并比较了当前最先进的检索模型 MemN2N,揭示出其对 bAbI + 的转换的性能非常差。
Sep, 2017
本文研究了一种基于微观模型的自主通信代理进行语言游戏的方法,研究表明此系统经历了一次无序 / 有序的相变并达成共识,这不仅解释了为什么人类语言可以扩展到非常大的人群,而且还提供了优化人工符号动力学的方法。
Sep, 2005
本文提出并考虑了合作式语言习得问题,该问题是特殊形式的临时团队协作问题,然后提出了一种概率模型,用于从观察团队语言使用者之间的沟通中推断说话者的意图和听众的语义,该模型基于说话者从事积极信号和监听器展示积极倾听的假设,并说明了可能的说话者传递正确信息的非最优能力,最后讨论了进一步测试和开发此框架的工作。
May, 2023
在这篇论文中,我们使用先前学习的动态句法语法和 CHILDES 语料库开发、训练和评估了一个概率模型,该模型用于增量生成,其中模型的输入是纯语义生成目标概念(TTR)。我们证明了该模型的输出与黄金候选项的准确匹配率为 78%,ROUGE-l 评分为 0.86。我们进一步对同一模型在生成目标在发话过程中发生变化时产生自我修复的能力进行了零次评估。自动评估显示模型能够在 85%的情况下正确生成自我修复。小规模的人工评估确认了生成的自我修复的自然性和语法性。总体而言,这些结果进一步突显了基于语法的模型的泛化能力,并为更可控和自然交互的对话型人工智能系统奠定了基础。
Aug, 2023
此文研究了改良的 Voter Model 在不同网格和小世界网络中的排列和界面平滑动力学,重点考虑了混合 AB 状态的代理人在过程中所起的作用并与原 voter model 进行比较。
Sep, 2006