ICLROct, 2020

InfoBERT: 从信息理论的角度提高语言模型的鲁棒性

PDF
TL;DR从信息论的角度出发，我们提出了 InfoBERT 框架来增强预训练语言模型的鲁棒性，包含两种基于相互信息的正则化器：信息瓶颈正则化器和鲁棒特征正则化器。实验证明，该方法在 NLI 和 QA 任务上取得了最先进的鲁棒性的结果。
bertadversarial attacksinfobertrepresentation learningrobust accuracy
发现论文，激发创造
  • 通过信息瓶颈改善自然语言处理模型对抗攻击鲁棒性

    本文利用信息瓶颈理论，研究消除易受攻击的非鲁棒特征，提取任务特定的鲁棒特征。通过大量实验证明，我们的方法可在 SST-2、AGNEWS 和 IMDB 数据集上除了几乎不受性能下降的情况下，在鲁棒准确度上实现显著提高，超过以往任何被报道的方法。

    Jun, 2022

  • 预训练语言模型应如何微调以提高对抗攻击鲁棒性？

    针对预训练语言模型的敌对性攻击，提出了一种基于信息理论的对抗性微调方法（Robust Informative Fine-Tuning），强制模型在整个微调过程中保留预训练模型所学习的特征，并在情感分析和自然语言推理等多种 NLP 任务中的各种攻击中显著优于现有技术。

    Dec, 2021

  • IB-RAR: 信息瓶颈作为对手鲁棒性的正则化器

    本文将信息瓶颈理论引入对抗训练和非对抗训练方法，以加强其鲁棒性，在损失函数中设计了正则化器作为学习目标，并根据特征与标签间的互信息来过滤中间表示的无用特征。实验结果表明，该方法能够与对抗性训练自然结合，提供更好的鲁棒性。

    Feb, 2023

  • 使用信息瓶颈保护您的 LLMs

    信息瓶颈保护器 (IBProtector) 是一种立足于信息瓶颈原理的防御机制，通过压缩和扰动提示信息，以保留目标大语言模型回应预期答案所需的关键信息，从而有效防止越狱攻击，而不过度影响响应质量或推理速度。

    Apr, 2024

  • 利用 BERT 进行信息检索：调查、应用、资源和挑战

    近年来，深度学习在解决各种自然语言处理问题上得到了大量应用。本文回顾了以 BERT 为代表的预训练模型在信息检索领域的方法，涵盖了长文档处理、语义信息整合、平衡效果与效率、术语权重预测、查询扩展和文档扩展等六个高级类别，并与基于解码器的生成式大型语言模型进行了比较，结果表明在特定任务上，经过调优的 BERT 编码器仍然具有更好的性能和更低的部署成本。最后，总结了调查的全面结果，并提出了未来研究的方向。

    Feb, 2024

  • RoChBert：针对中文的鲁棒性 BERT 微调

    本文介绍 RoChBERT 框架，利用包含中文音节和字形特征的更全面的对抗图，在微调过程中融合到预训练表示中，通过课程学习和对抗数据增广方法提高预训练语言模型的稳健性且不降低在正常文本上的预测准确率。RoChBERT 的性能优于以往方法，并且容易扩展到各种语言模型上，而且无需放弃预训练模型所需的时间和计算资源。

    Oct, 2022

  • 有效低资源微调的变分信息瓶颈

    本文提出使用变分信息瓶颈 (VIB) 来压制过拟合和提高低资源情景中的传输学习，并证明我们的方法成功地降低了过拟合，提高了泛化能力。我们的 VIB 模型发现的句子表示更加鲁棒且能够在自然语言推断数据集中更好地泛化到领域外数据集，实验结果表明我们的方法显著提高了传输学习，并在 13 个领域外自然语言推断基准测试中提高了泛化能力。

    Jun, 2021

  • 信息瓶颈结合奇异正则化改进模型的对抗鲁棒性

    通过奇异值分解将图像分解为多个矩阵，对不同攻击的敌对信息进行分析，提出一种新的模块来规范敌对信息，并结合信息瓶颈理论实现中间表示的理论限制，从而提高模型的鲁棒性。

    Dec, 2023

  • BERT: 深度双向变换器的预训练用于语言理解

    介绍了一种新的语言表示模型 BERT，可以通过预训练深度双向表示生成模型从未标记的文本中学习，通过微调可用于广泛的任务，包括自然语言处理。

    Oct, 2018

  • 知识增强注意力用于稳健的自然语言推理

    本文提出一种利用简单变换将外部知识纳入注意机制来使 NLI 模型更加稳健的方法，将其应用于 Transformer 编码器和可分解模型中，结果表明该方法可以显著提高它们的稳健性。并且，在与 BERT 预训练相结合时，在对抗 SNLI 数据集上实现了人类水平的性能。

    Aug, 2019