AAAIMay, 2020

为 TableQA 生成语义上有效的对抗性问题

PDF
TL;DR本文提出 SAGE（Semantically valid Adversarial GEnerator），一种用于 TableQA 白盒攻击的 Wasserstein 序列到序列模型，结合最小风险训练、SIMILE 和实体去词化，在保留原问题含义的情况下，利用 Gumbel-Softmax 来融合敌对损失进行端到端训练，证明了 SAGE 在语义合理性和流畅度上优于现有的本地攻击模型，同时取得了良好的攻击成功率，并且演示了使用 SAGE 增强数据的对抗训练可以提高 TableQA 系统的性能和鲁棒性。
adversarial attackquestion answering systemstableqasequence-to-sequence modelgumbel-softmax
发现论文，激发创造
  • 对抗性和安全缩放问题生成

    该论文介绍了一种采用对抗性方法的问题生成系统，旨在解决问题生成中的扩展性和安全性问题，并提出了一种问题 - 回答系统来剪枝不可回答的问题并提高答案质量，实现了高效、安全、准确、生产就绪的问答系统。

    Oct, 2022

  • 解决半监督问答中的语义漂泊问题

    本研究提出了一种基于语义加强的奖励机制和基于 QA 的评估方法，用于解决问题生成中的语义漂移问题，并解决传统评价指标不足的问题，同时提出了两种合成 QA 对的方法，有效的用于半监督 QA 学习中。

    Sep, 2019

  • 基于查询的对抗性提示生成

    通过使用具有 API 访问的远程语言模型构建具有更高概率发出有害字符串的对抗性示例，我们改进了之前的工作，并验证了我们的攻击在 GPT-3.5 和 OpenAI 的安全分类器上的有效性。

    Feb, 2024

  • 视觉问答的语义等效对抗数据增强

    通过生成对抗样本，解决语义结构中图片翻转等处理困难的问题，提高了视觉问答 (Visual Question Answering) 模型的性能和抗对抗攻击的能力。

    Jul, 2020

  • 可迁移的表格问答

    本文设计了新的挑战测试基准 WikiSQL-TS 和 WikiTQ-TS，模拟了实际主题转移场景，并提出了适用于 TableQA 的 T3QA（主题可转移的表格问题回答）方案，包括注入特定主题词汇、生成主题专用训练数据生成程序和逻辑形式重新排序器。我们认为我们的主题分裂基准将会促进更好的部署的鲁棒的 TableQA 解决方案。

    Sep, 2021

  • 基于语义的无监督常识问答方法

    本文提出了一种新颖的基于语义的问题回答方法 (SEQA)，该方法使用生成模型先产生一组可能的答案，然后基于这些可能的答案和问题在语义上的相似性来选择正确的答案。该方法在无监督的情况下，通过对四个基准数据集的实验验证了其有效性和健壮性，并取得了最佳结果。

    May, 2021

  • 从文本到多模态：对问答系统中对抗性示例生成的综合调查

    本文对于整合对抗机器学习与问答系统的领域进行了综述，包括传统和多模态背景下的对抗性示例生成技术。通过系统分类，回顾了采用的技术，从传统问答模型出发，探索了基于规则的扰动和高级生成模型，并扩展了对多模态问答系统的研究，分析了各种方法，并研究了生成模型、序列到序列架构和混合方法。研究还对对抗性数据集、评估指标和防御策略进行了讨论，并呈现了关于对抗性问答的广泛文献资料。最后，本文还考虑了对抗性问题生成的未来发展方向，突出了可以促进在对抗性挑战环境下的文本和多模态问答系统的潜在研究方向。

    Dec, 2023

  • 基于答案的对抗训练生成澄清问题

    本文介绍了一种生成澄清问题的方法，该方法通过建模假设答案作为潜在变量来引导生成更有用的澄清问题，并在两个数据集上评估了其性能。

    Apr, 2019

  • 对抗性 VQA：评估 VQA 模型鲁棒性的新基准

    通过引入 Adversarial VQA 作为一个新的大型 VQA 基准测试，我们发现非专业注释者可以轻松成功攻击 SOTA VQA 模型，而预训练模型和对抗训练方法在新基准测试中效果远不如 VQA v2 基准测试，并且我们的数据集可有效提高模型在其他稳健性 VQA 基准测试中的性能。

    Jun, 2021

  • TASA：双答案句攻击欺骗问答模型

    本文介绍一种名为 TASA 的对抗攻击方法，用于针对问题回答模型的攻击。该方法利用两个偏见进行攻击：(1) 通过扰乱回答句子来降低模型对正确答案的置信度；(2) 通过分散注意力来引导模型选择错误答案。在五个数据集上进行了广泛实验和人类评估，证明 TASA 可生成比现有文本攻击方法更有效的攻击，同时保持文本生成质量。

    Oct, 2022