Jan, 2023

CRYPTEXT：人类书写文本扰动数据库和交互式工具包

PDF
TL;DR本文介绍了一种名为 CRYPTEXT 的交互式系统，它提供了一个包含工具和数据库的数据密集型应用程序，用于提取和归一人类书写文本的文本语言扰动，并提供了一个交互式界面，用于在线监视和分析文本扰动。
user-generated textual contentlinguistic perturbationsdata-intensive applicationtext normalizationtext analysis
发现论文，激发创造
  • 通过人为扰动在线评估内容审核机器学习模型

    本文提出了一种包含人为写作的扰动，用于评估社交媒体上毒性发言检测模型的效果，并测试了该测试集在深度学习　(BERT 和 RoBERTa) 和黑盒 API（如 Perspective API）上的表现，结果表明带有真实人为扰动的对抗攻击仍然有效。

    Mar, 2023

  • 基于数据驱动的对抗文本扰动缓解

    本文提出了一种使用 deobfuscation 和 CW2V 嵌入的强健分类管道，用于检测 Facebook 帖子是否请求参与（例如点赞）。在针对有意和无意的对抗文本扰动方面，CW2V 嵌入的强健性优于基于字符 ngram 的嵌入，其分类结果在扰动下的 AUC 从 0.70 降至 0.67，而字符 ngram 嵌入的分类结果从 0.76 降至 0.64。

    Feb, 2022

  • 利用自然语言扰动进行逼真的对抗攻击和防御

    本文提出了新算法 ANTHRO，利用文本扰动实现对一个基于 BERT 的分类器进行对抗性攻击，并达到了攻击成功率高，语义保留性好，难以察觉等目标效果，可用于对抗训练。

    Mar, 2022

  • CR-UTP: 通用文本扰动的认证鲁棒性

    通过引入一种新的方法，即优越提示搜索方法，我们首次实现了针对 Universal Text Perturbations（UTPs）和 input-specific text perturbations (ISTPs) 的高可证明准确性。

    Jun, 2024

  • 随机文本扰动的效果有时有效

    探究数据增广方法在 NLP 中的效果和可泛化性，通过三个二进制文本匹配分类任务的大规模实验发现，随机文本扰动作为数据增广能给神经分类模型的测试集性能带来正面和负面的影响，具体取决于模型是否足够训练原始训练例子，但这与是否同时或分别应用五个随机文本编辑操作无关，研究强烈暗示随机文本扰动的效果任务特定，而不是普遍积极的。

    Sep, 2022

  • 穿越黑暗：揭示现代 AI 内容检测器的有效干扰

    利用机器学习模型对文章进行自动生成的大语言模型，在知识产权保护、个人隐私和学术诚信方面引发了关注。AI 文本检测系统目前存在鲁棒性不足和难以有效区分扰动文本的问题。本研究通过模拟真实场景，评估当前检测模型在实际应用中的性能，并构建了 12 种黑盒文本扰动方法来评估检测模型的鲁棒性。此外，通过对抗学习实验，研究扰动数据增强对 AI 文本检测器鲁棒性的影响。

    Jun, 2024

  • 用最小扰动生成文本对抗样本

    本文提出了一种新的对抗攻击策略，旨在找到与原始文本相似度极高的对抗文本，同时引入最小扰动；实验结果表明，与现有攻击方法相比，我们的方法在四个基准数据集上的成功率更高，扰动率更低。

    Nov, 2022

  • 深度学习文本分类算法对实际输入扰动的敏感性研究

    本文研究基于深度学习的文本分类模型（CNN、LSTM 和 BERT）在面对有意义但与最终性能无关的输入扰动（如标点符号和停用词）时的表现，发现包括 BERT 在内的这类模型都很敏感，特别是对于输入扰动的删除尤其受影响。

    Jan, 2022

  • TextBugger：针对现实应用生成对抗性文本

    本文探讨了深度学习文本理解中的安全漏洞，提出一种通用的生成对抗性文本的攻击框架 ——TextBugger，其攻击成功率高、难以检测、效率高，可有效用于情感分析等领域。同时，文章提出了一些有效措施以缓解这种攻击，并探讨了未来的发展方向。

    Dec, 2018

  • Text-CRS: 一个通用的文本对抗攻击认证鲁棒性框架

    本文提出了一种基于随机平滑的泛化认证鲁棒性框架 Text-CRS，用于自然语言处理中的文本，并对单词级对抗操作进行了证明，实现了显著的准确性提升。

    Jul, 2023