Sep, 2023

大型非结构化法律文件中的分类与解释的分层神经框架

PDF
TL;DR对于长达数万字、结构不均匀的案例文件，自动法律判决预测及其解释存在困难。本研究使用称为 MESc 的深度学习分类框架，通过定义 “缺少结构化信息的法律文档” 问题，尝试从这些缺少结构标注的长文档中提取解释。同时，我们还研究了拥有数十亿参数的大型语言模型（GPT-Neo 和 GPT-J）在法律文本和领域内迁移学习方面的适应性，并将其性能与 MESc 及其最后层嵌入的组合进行了比较。对于这种层次模型，我们提出了一种名为 ORSE 的解释提取算法，即基于遮蔽敏感性的相关句子提取器。
automatic legal judgment predictionexplanation extractionscarce annotated legal documentsdeep learning-based classification frameworkunsupervised clustering
发现论文，激发创造
  • 探索大型语言模型和分层框架用于大规模非结构化法律文件的分类

    通过使用多级编码器层次框架（MESc）以及大型语言模型和无监督聚类方法，我们研究了在没有结构注释的情况下，从大型法律文件中预测裁决的问题，并测试了这些方法在法律领域的转移学习能力和效果，我们的方法相较于之前的最先进方法取得了至少 2 个性能指标的增益。

    Mar, 2024

  • 探索半监督层次化堆叠编码器在法律判决预测中的应用

    使用领域特定的预训练 BERT 模型提取长文档的句子嵌入，并通过 Transformer 编码层进行进一步处理，并利用无监督聚类从这些嵌入中提取隐藏标签，以更好地预测法律案例的判断结果。在 ILDC 数据集上的多次实验表明，该机制的性能提高超过先前提出的方法。实验结果也显示了法律信息处理中领域特定预训练 Transformer 编码器的重要性。

    Nov, 2023

  • 构建多层次摘要的无监督法律文本问答系统

    本文总结了团队 SCaLAR 在《SemEval-2024 任务 5：民事诉讼中的法律论证》方面的工作。我们提出了一种简单而又新颖的基于相似度和距离的无监督方法来生成标签，以解决该二元分类任务。此外，我们通过使用 CNN、GRU 和 LSTM 等集成特征和多级融合的 Legal-Bert 嵌入来探索解决法律文本复杂性的问题。为了解决数据集中冗长的法律解释，我们引入了基于 T5 的分段摘要，成功保留了关键信息，提高了模型的性能。我们的无监督系统在开发集上的宏 F1 得分增加了 20 个百分点，在测试集上增加了 10 个百分点，这是一个令人鼓舞的结果，考虑到其简单的架构。

    Mar, 2024

  • 基于层级神经网络的长文档分类方法

    本文研究使用分层传递学习方法进行长文本分类，通过将数据分成块，然后传递到使用双向编码器表示的预训练通用句子编码器和 BERT 的基本模型，然后使每个块的输出表示通过包括 LSTMs 或 CNNs 的浅层神经网络来分类文本数据。使用此扩展方法对 6 个基准数据集进行评估，同时与多个深度学习算法进行比较，其中 Longformer 方法在大多数数据集上始终表现良好。

    Jan, 2022

  • 利用文档结构优化无监督法律案例摘要提取

    通过使用无监督的基于图形的排名模型，并使用重新加权算法来利用法律判决文件结构的特性，本研究研究了使用不同方法计算文档结构的影响，结果在加拿大法律案例实验数据集上表明了我们提出的方法优于多个强基线。

    Nov, 2022

  • 法律文件的结构化文本分段

    本研究提出了一种基于 transformer 网络和结构化文本分割的方法来预测跨越多个段落的连续文本段落的主题连贯性，以更有效地满足用户特定的信息需求，研究结果表明，此方法显著优于基线，并适应法律文件的结构特点。

    Dec, 2020

  • 基于树估计器的依区域法类别对西班牙法律裁决的自动解释

    结合自然语言处理和机器学习的可解释法律文本分类系统，对决策的特征和决策路径进行分析并以自然语言形式呈现，实现模型决策的可理解性。该系统在法律类别上的实验结果表明，其分类性能具有竞争力，准确度值超过 90%，并且自动解释能够被非专业用户轻松理解。

    Mar, 2024

  • 西班牙法律判决的可解释机器学习多标签分类

    提出了一个将人工智能、机器学习、自然语言处理与深度法律推理结合的混合系统，用于法律判决的多标签分类和解释，通过提供自然语言解释来减轻法律专家的重复劳动密集型法律分类任务。

    May, 2024

  • 利用长文本编码器改进罗马尼亚语法律判断预测

    通过研究专用模型和处理长文本，探索法律评判预测任务中的特殊模型和通用模型的表现，以提高性能。

    Feb, 2024

  • 联合学习打分和选择句子的神经文档摘要

    在这篇论文中，我们提出了一种新颖的端到端神经网络框架，通过联合学习对句子进行评分和选择来实现摘要提取。在 CNN / Daily Mail 数据集上的实验证明，我们的方法比现有的抽取式摘要模型表现出更好的效果。

    Jul, 2018