Aug, 2023

正则表达式推理挑战

PDF
TL;DR提出正则表达式推理（REI）作为代码 / 语言模拟的挑战，并对更广泛的机器学习社区提出。REI 是一项监督式机器学习和程序综合任务，通过示例来找到最小的正则表达式。最近在 GPU 上实现了 REI 求解器，首次实现了用于复杂 REI 实例的快速最小表达式生成。以此为基础，我们生成并发布了 REI 的第一个大规模数据集，并设计和评估了几种初始启发式和机器学习基准方法。邀请社区参与并探索学习解决 REI 问题的机器学习方法。我们相信，在 REI 方面的进展直接转化为代码 / 语言模型。
发现论文，激发创造
  • 基于搜索的 GPU 正则表达式推断

    本文提出了一种针对任意字母表的 REI（正则表达式推理）算法，其将搜索空间紧凑地实现为位向量的连续矩阵，使用形式幂级数的半环表示子语言，并在 GPU 上实现时能显著提高性能。

    May, 2023

  • 通过正则表达式指令实现统一可控文本生成

    我们的研究引入了正则表达式指令（REI），通过基于指令的机制来充分利用正则表达式的优势以统一地建模各种约束，支持多种常见的细粒度可控生成约束，并对它们的复杂组合进行建模。实验证明，我们的简单方法在各种约束下都能取得很高的成功率和适应性，并且在自动评估指标方面具有竞争力，并优于大多数之前的基准模型。

    Sep, 2023

  • 一般低资源信息提取的渐变模仿强化学习

    本文研究了利用低资源信息抽取（LRIE）的方法，实现从未标注数据中学习信息抽取任务。我们提出了一种名为 Gradient Imitation Reinforcement Learning（GIRL)）的方法，使用强化学习方法来鼓励伪标签数据模仿有标签数据的梯度下降方向，从而在低资源情况下，提高命名实体识别、关系提取和事件提取任务的性能。

    Nov, 2022

  • InfeRE: 逐步生成正则表达式的推理链

    从自然语言描述生成正则表达式（regexes）的新范 Paradigm InfeRE 通过逐步推理的方式生成 regexes，通过多个模型的采样输出来提高鲁棒性，优于先前的基线方法和基于树的生成方法 TRANX，具有提高 DFA@5 准确率的性能

    Aug, 2023

  • 一种抗噪差分可学习的交错单次出现正则表达式方法

    本文提出了一种噪声容忍的可微分学习方法 SOIREDL，通过设计神经网络来模拟 SOIRE 匹配，并证明了神经网络参数的某些赋值与 SOIRE 仅有有限的映射关系，进而通过探索最近的忠实编码来解释目标 SOIRE，在嘈杂的数据下表现出优异性能。

    Dec, 2022

  • 最小领域知识下，从自然语言生成正则表达式的神经网络

    该研究旨在探索将自然语言查询翻译成代表它们含义的正则表达式的任务。为了充分发挥神经模型的潜力，该研究提出了一种收集大规模的正则表达式和自然语言对的方法，并通过该模型实现了比之前最先进模型提升了 19.6% 的性能。

    Aug, 2016

  • 将正则表达式和神经网络相结合：口语理解案例研究

    本文探讨了将神经网络与正则表达式相结合来提高自然语言处理中的有监督学习效果，通过在口语理解中应用表明该方法显著地提高了有限的训练数据的利用效率。

    May, 2018

  • 稳健等变成像：一种完全无监督的框架，用于从噪声和部分测量中学习成像

    本文提出了一种称为 “稳健等变成像”（REI）的框架，利用 Stein 的无偏风险估计器（SURE）实现对噪声具有鲁棒性的全面无人监督训练，从而在对抗噪声的情况下提高了线性和非线性反问题的性能表现，为深度网络的稳健无人监督成像铺平了道路。

    Nov, 2021

  • ReactIE：利用弱监督增强化学反应提取

    本篇研究文章提出了一种名为 ReactIE 的方法，通过弱监督预训练的方式，结合来自文本中的频繁模式和专利记录中的数据，以识别化学反应的特定特征。实验证明，ReactIE 优于所有现有的基准模型。

    Jul, 2023

  • 指代表达生成的内在任务评估

    提出了一种基于内在任务的评估协议，针对对话生成模型中的表述生成模型进行了综合性评估，发现新的评估协议能更准确和可靠地评估每个模型的性能。

    Feb, 2024