Apr, 2024

用 Transformers 打击犯罪：在支付数据中进行地址解析方法的经验分析

PDF
TL;DR在金融行业中，从自由文本消息属性中提取街道、邮政编码或国家等字段是解析地址的关键需求，本文利用 Transformer 模型和生成型大语言模型探索应对海量交易数据的性能，并展示训练鲁棒模型处理实际世界的嘈杂交易数据的重要性。结果表明，良好调整的 Transformer 模型通过提前停止显著优于其他方法，而生成型大语言模型则展现出强大的零 - shot 性能，值得进一步研究。
address parsingfinancial industryregulatory requirementstransformersgenerative large language models
发现论文，激发创造
  • 电商地址分类的深度上下文嵌入

    研究了如何使用自然语言处理和 RoBERTa 模型来理解发展中国家（例如印度）中电商客户的运输地址，该方法结合了诸如编辑距离和语音算法之类的预处理步骤，并最终使用 RoBERTa 模型进行分类。

    Jul, 2020

  • 预训练语言模型在土耳其地址解析中的比较

    本文研究了使用 Transformer 模型 Bert、DistilBert、ELECTRA 和 RoBERTa，以及多层感知器 MLP 对土耳其地图数据进行多语言和土耳其语 fine-tune 的实验，结果表明土耳其语特定模型与多语言 fine-tuning 的相比略微更好，并且 BERT 变种对于地址类别分类的效果非常好。

    Jun, 2023

  • G2PTL: 一个预训练模型用于配送地址及其在物流系统中的应用

    提出了一种新型的基于地理关系的预训练模型 G2PTL，它采用了真实的物流交付数据构建了一个包含丰富地理知识和交付信息的大规模异构图，并通过采样子图进行预训练，通过真实世界数据的四项下游任务的全面实验表明，G2PTL 能够显著提高物流系统中与交付相关任务的性能。

    Apr, 2023

  • 自然语言处理中语义地址匹配的改进

    该研究论文介绍了语义地址匹配技术，通过使用 OCR 从发票中提取地址并创建地址数据池，然后使用 BM-25 算法对最佳匹配条目进行评分，最后通过 BERT 进行相似查询以获得最佳结果，研究结果表明该方法显著提高了现有技术的准确性和性能。

    Apr, 2024

  • Deepparse: 一个可扩展、可微调的最先进的多国街道地址解析库

    这篇文章介绍了 Deepparse，它是一个 Python 开源、可扩展、可调优的地址解析解决方案，使用最先进的深度学习算法进行多国地址解析，并在 60 多个国家进行了评估。它可以解析任何语言和任何地址标准编写的地址。预训练模型在用于训练的国家上达到了平均 99% 的解析准确率，无需预处理或后处理。此外，该库支持使用新数据进行微调，生成自定义的地址解析器。

    Nov, 2023

  • ChatGPT 是否是地理编码的变革者 - 地理编码地址解析技术的标杆

    通过对 GPT-3 模型在地址解析任务中的性能评估，研究表明双向 LSTM-CRF 模型在转换器模型和 GPT-3 模型中表现最好，转换器模型与双向 LSTM-CRF 模型相比展现出非常可比的结果。尽管 GPT-3 模型性能稍逊，但展示了在地址解析任务中利用少样本示例的潜力，同时还有通过额外的微调提升的空间。

    Oct, 2023

  • 使用先进的 Transformer 模型进行信用卡欺诈检测

    通过使用最新的 Transformer 模型进行数据处理和高度相关向量选择，本研究致力于创新应用于更可靠和精确的欺诈检测，通过与多个广泛采用的模型进行性能比较，包括支持向量机（SVM），随机森林，神经网络和逻辑回归等，比较指标如 Precision，Recall 和 F1 Score，结果表明 Transformer 模型在传统应用中表现出色，并在欺诈检测等领域展示了巨大潜力，为该领域带来实质性进展。

    Jun, 2024

  • 使用 Transformers 的自然语言处理在保险精算中的应用：在文本特征中的案例研究

    本教程介绍了将文本数据纳入精算分类和回归任务的工作流程，重点介绍了使用基于 transformer 模型的方法。通过对一组包含 400 个单词的汽车事故的描述和一组短期财产保险索赔描述的数据集进行演示，探讨了多语言环境和长输入序列等挑战性问题，同时展示了解释模型输出、评估和改进模型性能的方法，通过在应用领域或特定预测任务上对模型进行微调，提供了实现分类任务处理的实用方法。使用仅经过最少预处理和微调的现成自然语言处理 (NLP) 模型的语言理解技巧所实现的结果，充分展示了迁移学习在实际应用中的威力。

    Jun, 2022

  • Transformer 模型是否在预测被遮盖的单词时进行解析？

    本研究调查了预训练语言模型是否实际执行语法分析任务或仅弱相关运算，通过生成建模与 PCFG 结构的实验，证明了模型可以近似执行该任务并恢复算法估计的概率。

    Mar, 2023

  • 使用 Siamese Transformer Networks 改善地址匹配

    采用深度学习的方法，设计出一种模型，用于提高邮地址匹配的效率。测试结果表明，模型在准确性和速度方面都表现良好，对于解决分配过程中的问题具有实际价值。

    Jul, 2023