Mar, 2024

CICLe：大规模多类食品风险分类的一致上下文学习

PDF
TL;DR污染或掺假食品对人类健康构成重大风险，我们提供了一个包含 7,546 个短文本的数据集，描述公共食品召回通知，通过机器学习和自然语言处理自动检测食品风险，并基于数据集进行了基于逻辑回归的 tf-idf 表示的模型性能比较，最终提出了一种基于 Conformal Prediction 的 LLM-in-the-loop 框架，提高基础分类器的性能，并降低了能源消耗。
contaminated foodadulterated foodmachine learningnatural language processingfood recall
发现论文，激发创造
  • 多标签文本分类的上下文学习

    利用预训练的密集检索模型，我们在有限样本设置中的常见意图分类数据集上，以及特定情况下的细粒度情感分类中，优于微调性能。通过多个实验，我们分析了模型对于上下文示例和不同模型规模的利用情况，并展示了在不同领域中需要不同程度上下文示例的相似性、类名的语义内容和示例与标签之间的正确对应。

    Sep, 2023

  • 文本补全和词性预测的适应性预测

    本研究提出基于收缩预测算法的文本填充和词性预测算法，并将其应用于自然语言数据处理中。通过在波士顿语料库中进行仿真实验，结论表明该算法能够生成有效的置信区间，并在机器语音转录中有改进应用。

    Nov, 2021

  • 带有噪声标签的自适应适合性分类

    该研究开发了新的遵循性预测方法，用于分类任务，可以自动适应标签污染，实现比现有方法更具信息量的预测集，并提供更强的覆盖保证。通过对标签污染下标准遵循性推断所面临的准确理论特征进行精确刻画，并通过新的校准算法实施行动。我们的解决方法灵活，并且可以利用关于标签污染过程的不同建模假设，同时无需关于数据分布或机器学习分类器内部工作的任何知识。通过广泛的模拟实验和对 CIFAR-10H 图像数据集的对象分类应用来证明了所提出方法的优势。

    Sep, 2023

  • 欧盟立法上的大规模多标签文本分类

    该研究在法律领域考虑了大规模多标签文本分类，提出了一个适用于 LMTC、few - 和 zero-shot 学习的新数据集 EURLEX，共包含 57k 个法律文档，注释有～4.3k 个 EUROVOC 标签；实验表明，具有标签注意力的 BIGRU 模型优于当前其他最先进的模型；领域特定的 WORD2VEC 和上下文敏感的 ELMO 嵌入进一步提高了性能；研究人员还发现，只考虑文档中的特定区域就足够了，这使得我们可以规避 BERT 的最大文本长度限制，并使用 fine-tune BERT 在所有情况下获得了最佳结果。

    Jun, 2019

  • 基于可靠性的在多模式生物医学数据挖掘中的归纳拟合预测的噪声训练标签清理

    我们提出了一种基于可靠性的训练数据清洗方法，利用归纳性依从预测 (ICP) 计算的可靠性度量来纠正大量嘈杂的训练数据中的标签错误和异常值，验证了该方法在三个分类任务中的有效性，显示出显著的分类性能提升，无需过多精心策划的训练数据。

    Sep, 2023

  • 大规模标签多标签文本分类的准确置信度度量

    我们扩展了我们之前关于归纳一致性预测（ICP）在多标签文本分类方面的工作，并提出了一种新的方法来解决处理大量唯一标签时，Label Powerset (LP) ICP 的计算效率低下的问题。我们在两个英语和一个捷克语数据集上使用原始的和提出的高效 LP-ICP 进行实验。具体而言，我们将 LP-ICP 应用于两种类型的三个深度人工神经网络（ANN）分类器：一个基于上下文环境的（bert），两个基于非上下文环境的（word2vec）词嵌入。在 LP-ICP 的设置中，我们为标签集分配了非一致性得分，从而确定相应的 p 值和预测集。我们的方法通过消除计算负担较大的标签集，这些标签集肯定会有低于指定显著性水平的 p 值，从而大大减小了方法的计算复杂度，同时完全尊重标准 CP 的保证。我们的实验结果表明，基于上下文环境的分类器胜过非上下文环境的分类器，并且在所有考察的数据集上获得了最先进的性能。底层分类器的良好性能传递到它们的 ICP 对应物上，而没有任何显著的精度损失，但具有 ICP 的附加优势，即预测集中蕴含的置信信息。我们通过实验证明，即使所有可能的标签集合中包含超过 $1e+16$ 个组合，所得到的预测集合也可以足够紧凑以实际使用。此外，所得到的预测集合的经验误差率证实了我们的输出的良好校准性。

    Dec, 2023

  • 由标签分布指导的上下文示例排序

    通过优化问题，研究通过预训练语言模型的上下文学习中的示例排序，以提高文本分类的准确性和选择更好的上下文示例。

    Feb, 2024

  • LaFiCMIL：从相关多示例学习的视角重新思考大型文件分类

    利用 Transformer-based 模型作为特征提取器，我们提出的 LaFiCMIL 方法在各种大文件分类任务中，包括二分类、多类别分类和多标签分类任务，跨越了自然语言处理、编程语言处理和 Android 分析等多个领域，在克服输入限制问题方面取得了出色的性能表现，并在八个基准数据集上实验结果表明，相比单个 Tesla V-100 GPU 的 32G 内存限制下，我们能将 BERT 扩展到近 20K 的令牌数量。

    Jul, 2023

  • 仅使用英文注释检测多语言的食源性疾病投诉

    本研究提出了一种跨语言学习方法，通过机器翻译构建人工训练文档，训练出多语言分类器，从而实现在多语言文档中进行食源性疾病的早期探测，具有很好的应用前景。

    Oct, 2020

  • 通过增强的符合预测方法验证大型语言模型的有效性

    我们开发了新的一致推断方法，用于获取大型语言模型 (LLMs) 输出的有效性保证。我们通过过滤控制函数的评估结果来确定出 LLM 响应中满足高概率正确性保证的文本子集。我们的方法解决了现有方法存在的两个问题，首先，所述保证并非条件有效；其次，因为评分函数不完善，过滤步骤可能会删除许多有价值和准确的声明，我们通过两种新的一致方法解决了这两个挑战。

    Jun, 2024