Jan, 2022

使用自然语言描述文本分布之间的差异

PDF
TL;DR本文介绍了如何使用 GPT-3 来自动生成更容易描述两个文本分布差异的语言假设，并介绍了该方法在处理二分类任务、调试数据集缺陷、总结未知任务和标记文本聚类方面的应用，最终得到了较好的效果。
distribution shiftsgpt-3text clustersbinary classification tasksnatural language hypothesis
发现论文，激发创造
  • 基于语言描述的分布差异目标驱动发现

    本研究提出了一种自动发现任务 D5，可以在自然语言处理领域中使用，旨在解决大规模文本挖掘的效率问题，利用语言模型自动发现大规模文献库中的相关性和差异，并通过 OpenD5 数据集验证了该方法的有效性，可在商业、社会科学、人文科学、机器学习和健康领域应用。

    Feb, 2023

  • 学习描述一对相似图片之间的差异

    本文介绍了一项任务，即自动生成文本来描述两个相似图像之间的差异。我们通过众包获取了一组新的数据集，并提出了一种模型，该模型使用隐变量来根据像素聚类将不同的像素与输出句子对齐，以捕捉视觉显著性并实现语言和视觉的对准。

    Aug, 2018

  • 用自然语言描述图像集合之间的差异

    自动描述两个图像集之间的差异，并通过对候选描述进行重新排序来区分两个集合，从而揭示数据集和模型中的潜在差异

    Dec, 2023

  • 这些数据集之间有何不同？

    通过提出一套可解释性方法对比两个数据集，我们展示了这种方法在各种数据模式下的多功能性，不仅在解释质量和正确性方面优于相关方法，而且能够提供行动性的、互补的见解来有效理解和减轻数据集的差异。

    Mar, 2024

  • 针对条件自然语言生成的分布感知度量

    本文提出了一个新的方法对多样本设置下条件语言生成模型进行评估，通过对多个生成的结果进行比较，以区分单一描述和多样性质的差异并提出一些结论。

    Sep, 2022

  • 预训练语言模型中数据到文本生成的困难之处是什么？

    本文对预训练语言模型和自回归预训练语言模型在 DART 数据集上的 D2T 任务表现进行实证研究，考虑了任务数据量的大小，以及零样本和少样本学习以及模型微调等方式，研究表明需要更多仔细手工策划的数据集来改善基于此的 D2T 生成任务。

    May, 2022

  • 人工智能协作生成自由文本解释的重新构架

    本文探讨利用人类书写的样例以几乎无监督的方式创作自由文本解释的任务，发现高质量的提示有助于提高语言模型的生成效果，同时人类研究表明 GPT-3 生成的解释在某些情况下能够胜过人工生成的解释；作者还结合 GPT-3 与学习自评价的筛选器对生成的解释进行过滤，结果表明这一方法能够实现较高水平的解释过滤。

    Dec, 2021

  • 自然语言处理中的人类辅助公正分类

    本研究提出了使用无监督风格转移和 GPT-3 的零 - shot 技术发现具有表达性和直观性的个体公平规范的新方法，以解决文本分类器中公平性问题。我们使用众包研究验证了所生成的具有人类直觉的公平排除敏感属性的语句对，并展示了有限数量的人类反馈如何帮助训练一种相似度规范来训练下游的公平感知模型。

    Dec, 2022

  • 通过解释理解和预测自然语言推理中的人类标签变化

    该论文创建了一个包含注解高亮和自由文本解释的生态有效的自然语言推断数据集 --LiveNLI。使用该数据集对思维链进行提示，发现目前 GPT-3 在预测标签分布方面仍有改进的空间

    Apr, 2023

  • 量化文本的差异性

    本文研究各种文本相异度量方法（包括词汇表、词频分布和向量嵌入表示）在不同的任务（如按作者、主题和时间周期对文本进行聚类）中的性能表现，并分析了这些方法在不同长度文本间的偏差关系。结果表明，Jensen-Shannon Divergence 和基于嵌入的方法对 $h$ 的变化不敏感，而 Jaccard 距离则不一定可靠。

    May, 2023