Aug, 2023

通过代码簿知识、NLI 和 ChatGPT 综合合成政治零射关系分类

PDF
TL;DR最近的事件编码监督模型在超过模式匹配方法的性能。然而，它们仅依赖新注释，忽视了专家数据库中的丰富知识，限制了其在细粒度分类中的适用性。为了解决这些限制，我们探索了从已建立的注释代码库中获取知识的零样本方法，用于政治事件本体关系分类。我们的研究涵盖了 ChatGPT 和一种新的基于自然语言推断（NLI）的方法，名为 ZSP。ZSP 采用了一种树查询框架，将任务分解为上下文、语态和类别消歧的层次。该框架提高了可解释性、效率和适应架构变化。通过对我们新精心准备的数据集进行广泛实验，我们确定了 ChatGPT 内的不稳定性问题，并突出了 ZSP 优越的性能。ZSP 在细粒度 Rootcode 分类的 F1 得分上取得了 40% 的显著改进。与监督的 BERT 模型相比，ZSP 表现出了竞争性能，使其成为事件记录验证和本体发展的有价值工具。我们的工作强调了利用迁移学习和现有专业知识提高领域研究的效率和可扩展性的潜力。
supervised modelsevent codingzero-shot approachespolitical event ontology relation classificationnatural language inference
发现论文，激发创造
  • 基于逻辑引导的零样本关系分类语义表示学习

    该研究提出了一种基于逻辑引导的语义表示学习模型，通过知识图谱嵌入和逻辑规则，在已知和未知关系之间建立联系，用于零样本关系分类。实验结果表明，该方法可以推广到未见关系类型，并取得了有希望的提升。

    Oct, 2020

  • 使用 ChatGPT 进行零 - shot 时序关系抽取

    本文探讨了 ChatGPT 在零 - shot 时序关系抽取中的应用能力，并且设计了三种不同的提示技术来解决该任务。实验表明 ChatGPT 的性能与监督方法有较大差距，并且在时间推理过程中可能存在不一致性和长依赖时序推理失败的问题。

    Apr, 2023

  • 提高零样本文本分类效率的共形预测器

    通过使用基于 conformal predictor 的快速基分类器限制潜在的标签数，我们成功地提高了基于交叉编码器的零样本模型的效率，实验结果显示我们可以在性能不降低的情况下，将自然语言推理和下一句话预测的模型推理时间分别降低了 25.6％和 22.2％。

    Oct, 2022

  • OntoZSL: 基于本体增强的零样本学习

    通过本体论知识表示和语义嵌入，以更丰富和竞争的先验知识建模 ZSL 的类间关系，并使用生成对抗网络（GANs）开发了一种生成 ZSL 框架，以解决已知类和未知类之间的数据不平衡问题。

    Feb, 2021

  • 零样本社交政治事件提取的 Monte Carlo 语言模型管道

    本研究提出了一种新的细粒度、多阶段的生成式问答方法，利用蒙特卡洛方法克服生成式输出的随机性，并将其应用于事件抽取和演员关系提取领域，同时在自动内容提取数据集上表现较强。

    May, 2023

  • ChatGPT 引导的零样本学习中的语义

    我们研究了如何利用 ChatGPT 对零样本学习任务中的类语义进行增强，通过使用 ChatGPT 获得每个类的文本描述，结合类名和 ChatGPT 生成的描述生成的词嵌入来丰富词向量，并在各种 2D 图像和 3D 点云数据集上评估我们的方法，证明其提高了零样本学习的性能。

    Oct, 2023

  • 基于提示的零样本关系分类与语义知识增强

    本文提出了一种基于提示的模型，并使用语义知识扩充的方式识别零 - shot 情况下的未见过的关系。该模型使用原始的实例生成模型和基于外部知识图形的提示来生成增强实例，通过原型网络计算实例之间的距离来预测。实验结果表明，该模型在多个数据集上均优于现有方法。

    Dec, 2021

  • 零样本链接预测的分层 N-Gram 框架

    本论文提出了一种构建层次化 n-gram 的零样本链接预测框架，通过使用字符 n-gram 的依赖关系来跨越已知和未知关系之间的差距，获得了两个零样本链接预测数据集上的最先进成果。

    Apr, 2022

  • 使用 Transformer 语言模型对社会政治文本进行零样本排序以减少读取时间

    使用基于 Transformer 的 DeBERTa 模型将分类问题转化为蕴含问题，使得排名最高的文档可以被视为正分类文档，从而缩短信息抽取过程中的阅读时间，并发现一定的召回率下，使用声明性形式的类别标签作为查询可以优于使用字典定义的类别标签。同时研究表明，随着主题范围的扩大，应阅读的文档百分比会增加。

    Oct, 2022

  • 使用零样本学习进行公司分类

    本文提出了一种利用自然语言处理和零样本学习进行公司分类的方法，通过使用预训练的转换器模型提取公司描述的特征，然后应用零样本学习将公司分类为相关类别，从而在不需要针对每个类别进行特定训练数据的情况下简化公司分类过程，节约时间和资源。实验结果表明，该方法具有自动化公司分类的潜力，是未来研究的有前景的方向。

    May, 2023