Apr, 2022

利用 Transformers 自然语言处理方法对巴西法院文件进行相似性聚类

PDF
TL;DR本研究运用 BERT、GPT-2 和 RoBERTa 等 6 种转换器以及 21 万份法律诉讼专业化训练模型，通过将文件预处理十分相似的信息转化为向量、使用无监督学习方法聚类控制进行法律领域的词语判定，体现出转换器模型的优点。在这其中，RoBERTa 模型得到了进一步发展，成为了本研究的重要部分。
artificial intelligencenatural language processingjudicial documentstransformersroberta
发现论文，激发创造
  • 基于 Transformer 的法律文本处理方法

    本文介绍一种基于 Transformer 模型的方法，以解决 COLIEE 2021 自动法律文本处理竞赛中的不同问题，并详细描述了每个任务的处理步骤，包括问题公式化、数据处理和增强、预训练和微调。此外，本文还介绍了两个在法律领域利用平行翻译的预训练模型 NFSP 和 NMSP，其中 NFSP 在该竞赛的任务 5 中取得了最优结果。

    Feb, 2022

  • 比较弱监督和注释过程方法的葡萄牙法律语义文本相似性数据集

    该研究介绍了推动法律领域数字化的制度，并尝试为法律领域提供一些数据集以支持人工智能的发展，同时也探究了如何为这些数据集进行标注。通过对专家标注和启发式标注的比对，说明启发式标注的可用性。

    May, 2023

  • 利用上下文相似性进行判决引用检索

    我们提出了一种结合自然语言处理和机器学习技术的方法，通过创建文本嵌入来增强法律案例描述的组织和利用，实现无监督聚类和有监督引文检索，以自动化提取引文的过程，从而实现更高效、节省时间、便捷的法律研究和论证。

    May, 2024

  • 利用长文本编码器改进罗马尼亚语法律判断预测

    通过研究专用模型和处理长文本，探索法律评判预测任务中的特殊模型和通用模型的表现，以提高性能。

    Feb, 2024

  • 基于 Transformer 的大语料库语义相似度分析的认知研究

    本文利用传统技术和转换器技术对美国专利短语进行语义相似性分析和建模，并对 Decoding Enhanced BERT（DeBERTa）的四种不同变体进行实验，在此基础上通过 K 次交叉验证提高性能，实验结果表明我们的方法比传统技术更具有优越性，平均 Pearson 相关系数为 0.79。

    Jul, 2022

  • 在印度法律文本上进行的预训练转换器

    本文介绍了在印度法律文本上进行预训练的基于 Transformer 的 PLMs，并在多个基准法律 NLP 任务上运用了这些 PLMs，结果表明这些印度特定的 PLMs 非常有用。

    Sep, 2022

  • 自动难民案件分析：支持法律从业者的自然语言处理管道

    本研究介绍了一个从法律案例中检索、处理和提取目标信息的端到端方法，并进行了在加拿大难民法律领域的案例研究。通过使用最先进的神经命名实体识别技术，从不同的神经网络模型中选择最佳方法来提取有用的信息。模型可以在 5 个目标类别上实现高于 90% 的 F1 分数，并在其他 4 个类别上实现超过 80% 的分数。

    May, 2023

  • 为人工智能和法律领域引入基于 Transformer 的语言模型的秩序

    这篇文章给出了 TLM 在法律领域中基于 AI 的问题和任务的系统概述，旨在突出此领域的研究进展，从而理解 Transformer 模型在支持法律流程中的作用、当前的限制和进一步的研究发展机会。

    Aug, 2023

  • 葡萄牙自然语言处理模型训练的法律框架

    通过引入大量人类语言文本数据，利用深度学习等技术发展的应用程序与人工智能之间的法律的研究与合规问题。

    May, 2024

  • 使用 Transformer 和图神经网络对法律文件进行修辞角色标注

    本文探讨了使用图卷积网络和标签传播算法等基于图的方法以及变种的 BERT 等变压器为基础的方法，在执行 SemEval 任务 6 的过程中进行了修辞角色标注任务，以理解印度法律文件并提高复杂法律文档的文本分类准确性得分。

    May, 2023