Jun, 2024

GiusBERTo: 意大利审计法院决定中的个人数据去识别的法律语言模型

HTML
PDF
TL;DRGiusBERTo是基于BERT模型的首个专用于匿名化意大利法律文件中个人数据的模型，通过在大规模审计法院决定数据集上训练，它能识别需要匿名化的实体，包括姓名、日期和地点，同时保持上下文相关性，并在测试集上实现了97%的标记级准确率，为意大利法律社区提供了一种平衡隐私和数据保护的准确而定制的BERT模型。
发现论文，激发创造
  • LEGAL-BERT：法学院里的大毛怪

    本文研究了BERT在法律领域中的适应性指南并提出使用原始BERT、在领域特定语料库上进行追加预训练的BERT和在领域特定语料库上从头开始预训练的BERT三种策略。并针对下游任务进行更广泛的超参数搜索空间，并发布了LEGAL-BERT，用于辅助法律NLP研究、计算法律和法律技术应用。

    Oct, 2020

  • Swiss-Judgment-Prediction: 多语言法律判决预测基准

    通过多语言的法律案例数据集，使用BERT模型，成功预测了瑞士联邦最高法院的裁决案例，提高了司法工作效率。

    Oct, 2021

  • AraLegal-BERT：针对阿拉伯语法律文本的预训练语言模型

    本文介紹了 AraLegal-BERT 模型，評估其對於阿拉伯法律文件的表現。結果證明該模型在自然語言理解 (NLU) 任務上比一般的 BERT 及原始版本表現更為準確。

    Oct, 2022

  • 德国BERT法律命名实体识别模型

    本研究 fine-tune 了一个受欢迎的德语 BERT 语言模型，用于 Legal Entity Recognition（LER）数据集，结果表明我们的模型在 LER 任务上表现比 BiLSTM-CRF+ 模型更优，并通过 HuggingFace 对外公开。

    Mar, 2023

  • BERTino:一种意大利DistilBERT模型

    本论文介绍了BERTino，这是一种特定于意大利语的DistilBERT模型，旨在提供第一种轻量级BERT架构替代方案。我们在意大利ISDT、意大利ParTUT、意大利WikiNER和多类别分类任务上评估了BERTino，获得了与BERTBASE相当的F1分数，并大幅提高训练和推断速度。

    Mar, 2023

  • CDJUR-BR -- 巴西司法的黄金法律文档收藏，包含细粒度命名实体

    本文描述了巴西司法部的金标准收录（CDJUR-BR）的发展，其中包含了专家在法律文件中注释的一系列细粒度命名实体，并提供了一个基于BERT模型的NER，其结果表明CDJUR-BR的优越性。

    May, 2023

  • 瑞士联邦最高法院裁决的自动匿名化

    我们使用一种基于BERT模型的新方法，将现有的匿名化软件与机器学习相结合，进一步减少人工劳动，增强自动建议，从而提高了超过5％的F1分数，并演示了将法院决定发布给公众所依赖的适当匿名化的重要性。

    Oct, 2023

  • 基于Transformer的实体法律形式分类

    使用Transformer-based的语言模型对原始的法人实体名称进行实体法律形式分类，通过与多个传统基准进行比较，我们发现预训练的BERT变种在F1得分方面优于传统文本分类方法，并在宏F1得分方面表现良好。此外，通过在十个选定的法域中进行的第三方专家评审的结果支持我们的提议。该研究突出了Transformer-based模型在推进数据标准化和数据集成方面的巨大潜力，这些方法可以极大地有助于金融机构、公司、政府和其他组织评估业务关系、理解风险暴露和促进有效治理。

    Oct, 2023

  • LegalPro-BERT: 利用BERT大型语言模型进行法律条款分类的微调

    合同分析是一项重复且不可或缺的过程，为了避免业务风险和责任，需要识别和分类协议中的关键条款和段落。本研究提出了LegalPro-BERT，一种预训练的大规模语言模型，经过法律分类校准后用于有效处理法律条款的分类任务，并通过与当前基准结果的比较证明其性能优于以往研究的基准。

    Apr, 2024

  • 自然语言处理的小额索赔法庭：利用小数据集评判法律文本分类策略

    本研究针对法律领域中贴标数据需求高的问题，探讨如何优化小型贴标数据集与大量非贴标数据的使用。通过结合BERT、数据增强和半监督学习策略，研究显示最佳结果达到了80.7%的准确率，突破了以往模型的表现，展现了在法律文本分类中的新方法潜力。

    Sep, 2024