ICLRMar, 2020

生态语义学：为情境语言理解编程的环境

PDF
TL;DR本文结合环境学派及认知科学的现代理论，为大规模自然语言理解系统提供了一种基于生态语义学的方法，该方法利用了语境环境建构更为结构化的训练环境，使得模型能够较深入地理解、理解和使用语言的方法。
large-scale natural language understandinggrounded language learning approachesenvironments as first-class citizenslanguage of affordancesecological semantics
发现论文，激发创造
  • 探索环境在基于语境的自然语言理解中的作用

    通过生态学方法研究自然语言理解，利用基于基于文本游戏环境的训练和注释方法来改进数据收集和模型开发，提出了一种新的测试基准来衡量大型语言模型在常识推理任务中的进展，并提出了 AI 辅助的 “社交思维环境” 设计用于科学家等知识工作者。

    Feb, 2024

  • 语言（再）建模：走向具身语言理解

    本文提出了基于具有体验认知语言学特征的表征和学习方法的自然语言理解系统架构，旨在利用隐喻推理和模拟的基础来提高自然语言理解系统的效率、可解释性和概括性。

    May, 2020

  • 在模拟的 3D 世界中的基于场景语言学习

    通过增强和无监督学习，训练具备最少先验知识的机器人在仿真 3D 环境中理解自然语言指令，将语言符号与周围物理环境的感知表示和相关的行动序列联系起来，实现语言含义的压缩和提取，从而揭示出关于语言基于感知概念的本质和潜力。

    Jun, 2017

  • 以行动示范为导向，而非口头指示：将自然语言融入机器人可用性

    利用预训练技能约束自然语言模型以便进行真实世界的物理执行，从而实现语言驱动机器人。

    Apr, 2022

  • 经验铸就语言

    语言理解研究在未能将语言与其所描述的物理世界和所促进的社会互动相联系的情况下受到阻碍，因此现在的成功表示学习方法需要与涉及语言的更广泛的物理和社会背景的研究相结合来解决沟通的更深层次的问题。

    Apr, 2020

  • 神经网络如何理解程序？

    本文探讨了基于 NLP 预训练技术的代码表示学习的进展，提出了一种新的程序语义学习模式，即模型应该学习由与操作语义基本操作对齐的表示和不可或缺的环境转换信息构成的信息。为了验证我们的建议，我们提出了一个名为 OSCAR 的分层 Transformer 预训练模型，通过从 IR 和静态分析导出的编码表示中学习来表示基本操作和环境转换信息，证明了 OSCAR 在许多实际软件工程任务中理解程序语义的杰出能力。

    May, 2021

  • 基于实境的语言学习中的语用学问题、任务和建模方法

    人们通过上下文来丰富文字表达，实现简洁而有效的沟通，为了让人工智能系统能够与人类进行自然交互，需要强调语用学技能，从分享语言目标和约定到视觉和肢体世界中的语境等，利用各种上下文信息有效地运用语言。本文调查现有的语境实现和语用模型方法，并分析了每个工作中的任务目标、环境语境和沟通便利之间的关系，从而丰富了语言含义。我们提出了关于未来基于任务设计的语境需求，以自然地引出语用现象的建议，并建议在更广泛的沟通语境和便利方面继续探索。

    Nov, 2022

  • 具体情境下的自然语言解释

    自然语言解释、预训练语言模型、情境感知的自然语言解释、提示工程方法、自动化评估分数是本论文研究的关键词和主题。

    Aug, 2023

  • 面向环境和目标驱动的语言学习模式

    本文提出一种通用的情境语言学习范式，旨在设计可靠的语言代理以能够与人类进行成功的合作。

    Oct, 2016

  • 一个（搜索）框内的语言：以真实世界的人机交互为基础的语言学习

    研究通过现实世界数据进行基于场景语言学习，探索在用户与搜索引擎之间自然互动中建模教师 - 学生动态学习的出现、语义的普遍性，学习场景、表示和组合的功能，并表明该方法在组合性和零 - shot 推理任务方面提供了比 SOTA 的非基于场景的模型更好的结果和泛化能力。

    Apr, 2021