将词义模糊从词汇层面扩展到语篇模糊，通过基于 Bell-CHSH 场景的上下文建模，计算了数据集上的上下文性测量，并获得了更高比例的上下文模型，证明了有关 Winograd Schema 的自然语言处理挑战可以使用上下文建模。

Feb, 2024

我们提出了一种新颖的方法，将 Winograd 模式广义化，从而使其类似于 Bell-CHSH 测量方案，并通过人们在众包平台上收集的人类判断报告了一个这种广义模式的实例。所得模型违反了 Bell-CHSH 不等式 0.192，从而在指代消解设置中展示出了上下文相干性。

Aug, 2023

本文介绍一种使用 Lambek Calculus 计算逻辑和 Fock Space 语义模型来处理语篇关系的方法，该方法可以通过机器学习和量子计算实现，用于需要解决代词指代的模型中具有较高的准确性。

Aug, 2022

本文提出了一个新的 sheaf 论述模型，用于分析语义歧义的消岐过程。研究表明，在歧义短语中，从主语到动词和从宾语到动词是两种最常见的消岐顺序，并且使用这一模型进行了测试。同时，我们发现多义词和同音异义词的消岐过程存在延迟。

Jun, 2022

通过比较多种 BERT-based 语言模型中的语境化词嵌入，我们评估了西班牙语歧义名词的语义表达。我们开发了一个新颖的句子数据集，并收集了人类的相关性判断。结果显示，这些语言模型的语义表达在人类判断中捕捉到一些差异，但不能达到人类水平。与英语不同，我们发现在西班牙语中，模型规模与性能之间没有相关性。此外，我们还发现了目标名词消歧的陈规轨迹，并在英语中部分复制了这一结果。我们贡献了（1）一组包含人类相关性判断的西班牙语句子刺激数据集，以及（2）认识到语言模型规格（结构，训练方案）对语境化嵌入的影响。

Jun, 2024

我们引入了一种上下文感知的神经机器翻译模型，该模型可以控制和分析从扩展上下文到翻译模型的信息流，实验证明该模型改进了代词翻译和在指代方面进行了隐含捕获，而且不仅在指代性情况下有所改进，还提高了整体 BLEU 分数。

May, 2018

本文研究了语境化语言模型的多义词辨别能力。作者提出了一个人工注释的数据集，用于评估多义词词义的相似性，发现多义词的词义相似性介于相同和同音异义之间，并呈现出一定的词义变化规律性。BERT Large 在相似性等级方面表现最佳，但无法一致地复制观察到的相似性模式，并且在某些类型的多义词变化上存在问题。

Sep, 2021

通过在希尔伯特空间中学习单词的意义并通过将语法结构转化为参数化量子电路的翻译，我们评估了 Quantum Natural Language Processing (QNLP) 对 Winograd 风格的代词消解任务的翻译，并训练了一个用于二元分类的 Variational Quantum Classifier (VQC)，在 IBMQ 软件上执行的模拟获得了 87.20% 的 F1 分数，该模型优于三个经典共指消解系统中的两个，并接近最先进的 SpanBERT，而一个混合量子 - 经典模型则将这些结果进一步提升了约 6%。

Dec, 2023

通过在神经机器翻译中引入少量非句内语境，我们提出了一种简单且可扩展的方法来解决翻译歧义问题，无需语义标注和对标准模型体系结构进行修改，并且通过减少训练成本，优于句级基线和可比的文档级基线。

Nov, 2023

通过研究 BERT 中的单词上下文含义的量化，我们展示了预训练语言模型如何解释单词在上下文中的重要性，结果显示顶层语义表示对于任务的推断非常准确，底层语义表示更具可转移性。

Apr, 2020