Nov, 2023

金融服务的葡萄牙常见问题

PDF
TL;DR利用数据增强技术生成合成数据以解决葡萄牙金融领域中领域特定数据稀缺的问题，并使用不同语义相似性的技术对从巴西中央银行 FAQ 获取的数据集进行增强，通过有监督和无监督任务评估增强数据对低语义相似性和高语义相似性情况的影响。此外，生成的数据集将在 Hugging Face 数据集平台上公开传播，从而提高可访问性并促进自然语言处理研究社区的更广泛参与。
发现论文，激发创造
  • 巴西葡萄牙语文本分类数据增强方法的性能

    使用数据扩增方法来改善文本分类问题的机器学习性能，本文研究了几种数据扩增技术在巴西葡萄牙语语料库上的表现，并发现其中一些方法的表现有所改善，但也指出了语言偏见和非英语文本数据匮乏的进一步利用。

    Apr, 2023

  • 比较弱监督和注释过程方法的葡萄牙法律语义文本相似性数据集

    该研究介绍了推动法律领域数字化的制度，并尝试为法律领域提供一些数据集以支持人工智能的发展，同时也探究了如何为这些数据集进行标注。通过对专家标注和启发式标注的比对，说明启发式标注的可用性。

    May, 2023

  • 使用 PT-Pump-Up 进行葡萄牙语 NLP 资源索引

    提出了 PT-Pump-Up，一套旨在减少资源分散并改善对葡萄牙语自然语言处理资源的可访问性的工具。该提案包括四个软件组件：a) 用于列出可用资源的网页平台；b) 用于简化加载葡萄牙语自然语言处理资源的客户端 Python 包；c) 用于管理平台的管理 Python 包；d) 用于促进未来合作和贡献的公共 GitHub 存储库。四个组件可以通过此 https URL 进行访问。

    Jan, 2024

  • 葡萄牙自然语言处理模型训练的法律框架

    通过引入大量人类语言文本数据，利用深度学习等技术发展的应用程序与人工智能之间的法律的研究与合规问题。

    May, 2024

  • 利用生成式语言模型进行神经机器翻译的数据增强

    通过利用大规模语言模型如 ChatGPT，我们探索了基于提示的数据增强方法，用于产生合成的平行语料库，比较了三种不同提示的方法，并使用两个评估指标来衡量所生成的合成数据的多样性。这种方法无需额外的模型训练成本，与后向翻译等其他增强方法相比，提高了未增强基线的 0.68 BLEU 分数。

    Jul, 2023

  • 利用数据增强技术提高神经网络检测 COVID-19 假新闻准确率的研究

    本文介绍了如何应用自然语言处理和数据增强技术来提高神经网络的性能，以更好地检测葡萄牙语中的虚假新闻，并通过实验表明这些技术的应用可以显著提高新闻分类的性能。

    May, 2022

  • PORTULAN ExtraGLUE 数据集和模型：启动葡萄牙语神经处理基准测试

    借助对葡萄牙语神经模型的研究，我们提供了一套用于多种语言处理任务的数据集合，以及针对这些下游任务进行细调的神经语言模型集合。通过使用最先进的翻译引擎将数据集从英语机器翻译成葡萄牙语，以与文献中的主流基准相结合，启动了葡萄牙语的对应数据集。由此产生的 PORTULAN ExtraGLUE 基准是未来葡萄牙语研究的基础，可以在后续工作中进行改进。类似地，我们使用低秩适应方法开发的相应细调神经语言模型作为基准可促进葡萄牙语神经处理的未来工作。所有数据集和模型都已开发并可用于葡萄牙语的两个变体：欧洲葡萄牙语和巴西葡萄牙语。

    Apr, 2024

  • 神经 NLP 数据增强

    本文概述了当前用于自然语言处理模型的数据增强方法的现状和近期发展，着重介绍了基于神经网络和变换器的方法，讨论了数据增强的实际问题、可能的缓解措施以及未来研究的方向。

    Feb, 2023

  • 非自然语言处理：弥合合成语言与自然语言数据之间的差距

    通过 “模拟到真实” 的技术，本文提出通过合成数据生成程序与训练能够准确解释这些合成数据的模型，再利用学习到的句子嵌入来定义距离度量，从而实现将自然语言映射到合成数据集的支撑上，训练出只使用合成训练数据的自然语言处理模型，其在多个领域的表现已经与使用自然语言数据训练的最先进的模型相匹配或超越。

    Apr, 2020

  • 合成数据是否使得大型语言模型更高效？

    本文探讨了在自然语言处理中合成数据生成的细微差别，重点放在基于模板的问题生成上，并比较了其优点和局限性，最后通过实证评估展示了基于模板的合成数据对现代转换器模型性能的影响。研究结果旨在指导自然语言处理从业者在利用合成数据的潜力上，确保在多种应用中获得最佳模型性能。

    Oct, 2023