Dec, 2012

学习范围，应用于信息提取和分类

PDF
TL;DR本文提出了一种可以同时利用局部和全局特征的分层概率模型，从而提高分类和信息抽取的准确性。通过估计局部数据集中的随机参数，并在推断过程中使用其进行分类，该模型能够自适应地捕捉到新发现的数据中的规律性。实验结果表明，相对于仅使用全局特征的传统模型，本模型能显著提升性能。
probabilistic approachesclassificationinformation extractionhierarchical probabilistic modellocal and global features
发现论文，激发创造
  • 有限数据下的信息提取迁移学习

    本文提出了一种通过使用转移学习的方法，并结合深度神经网络和统计分类器的结合来进行信息提取，将该方法应用于日本政府工程竞标实际案例的文档处理中，证明了该模型能够提取具有详细信息精度的细粒度命名实体。

    Mar, 2020

  • 学习解释：模型解释的信息论视角

    我们引入了实例级别特征选择作为模型解释的一种方法，基于学习一个函数来提取最具信息价值的特征集合，利用变分逼近互信息，最大化选择特征和响应变量之间的互信息，我们在各种合成和真实数据集上展示了方法的有效性，并使用定量度量和人类评估进行了验证。

    Feb, 2018

  • 非参数语言模型中的结构局部性获取

    本文探讨了利用结构局部性在非参数语言模型中的应用，并提出了一种简单而有效的方法来将学习参数加入到这些模型中以提高局部邻域中检索示例的概率，并在 Java 源代码和维基百科文本等不同领域进行了实验，发现结构局部性特征可以改善模型效果。

    Oct, 2021

  • 融合局部上下文和全局连贯性的开放信息提取

    本文提出了一种名为 ReMine 的新型 Open IE 系统，将本地上下文信号和全局结构信号统一到一个遥感监督的框架中，并利用外部知识库中的事实作为监督，通过联合优化问题解决实体 / 关系短语分割和元组提取质量评估的两个子任务，以提高从大型语料库中提取元组的质量，并在两种不同领域的实际语料库上进行实验以证明其有效性和鲁棒性。

    Apr, 2018

  • 结构化语言模型

    本文提出一种语言模型，其利用句法结构从单词历史中提取有意义的信息，实现了远距离依赖关系的利用。该模型为每个单词序列 - 二元分析结构分配概率加以注解，同时提出了概率参数化和一组评估其预测力的实验。

    Nov, 1998

  • 信息提取：在发展中国家超本地金融数据领域的应用

    本研究使用自然语言处理技术，旨在解决获取发展中国家公司财务数据的问题。通过构建专门针对发展中国家金融文本数据的数据集，我们采用基于 Transformer 的 T5 模型进行文本到文本的处理，同时进行命名实体识别和关系提取，达到 92.44% 的准确率、68.25% 的精确度和 54.20% 的召回率。同时，我们还使用 SpaCy 进行序列处理，包括预训练和微调模型的命名实体识别以及使用 SpaCy 的依赖解析器输出和一些启发式方法来确定实体关系，最终实现了 84.72% 的准确率、6.06% 的精确度和 5.57% 的召回率。

    Mar, 2024

  • 对文本数据进行特征重要性和规则提取的可解释性比较

    本文研究机器学习算法中普遍存在的可解释性方法，通过不同的解释方法应用到简单的模型中，发现不同之处并提出一种新的方法来比较不同解释间的差异。

    Jul, 2022

  • 利用句法结构进行语言模型优化

    该论文介绍了一种语言模型，它利用句法结构从单词历史中提取有意义的信息，从而使得可以使用远距离依赖关系。该模型分配概率给每个单词序列 - 带头词注释的二元解析结构，并以左到右的方式运作，因此适用于自动语音识别。通过一系列实验来评估预测能力，该模型及其概率参数化对标准三元模型进行了改进。

    Nov, 1998

  • 训练模型全局解释的规则归纳

    本文提出了一种通过规则归纳技术，捕捉特征间关系来全局解释神经网络预测的方法，对 20 个新闻组数据集上的 4 类文本分类神经网络进行全局解释，并获得了 F1 - 得分 0.80。

    Aug, 2018

  • 顺序推理中的分类器使用

    本文研究了如何将多个分类器的结果结合起来，提出了两种基于 Markov 模型和约束满足模型的整合方法，并通过浅层解析的实验进行了验证。

    Nov, 2001