Dec, 2022
开放领域问答中对抗注入攻击的防御
Defending Against Poisoning Attacks in Open-Domain Question Answering
Orion Weller, Aleem Khan, Nathaniel Weir, Dawn Lawrie, Benjamin Van Durme
TL;DR本研究提出了一种新的方法 —— 查询增强方法,结合一种新的置信度方法 CAR 来寻找多个可以回答原始问题的检索段落,并将它们整合到模型中,以对抗数据污染并提高 5%-20% 精确匹配度。