mitigation strategy | BriefGPT

关键词mitigation strategy

搜索结果 - 6

模仿用户数据：关于减轻封闭式大型语言模型的微调风险
在小而高质量的数据集上对大型语言模型进行微调可以增强其在特定下游任务上的性能，我们的研究探讨了在不同任务特定数据上进行微调时存在的安全风险，并提出了一种新的缓解策略，该策略在维持相似任务性能的同时，更有效地重新建立安全对齐。
PDF22 days ago
私有推理的线性化对群体准确率的不平等影响
保障隐私保护推理的计算挑战是已知的，通过线性化神经网络激活函数中的目标部分可以显著减少运行时间，但可能导致对少数群体的准确性下降，我们提出了一种简单的细调方法来有效缓解这个问题。
PDF5 months ago
大型语言模型中的性别偏见煽动与缓解之学习
自动检测大型语言模型（如 ChatGPT 和 GPT-4）潜在性别偏见的研究，提出了一种自动生成测试用例的方法，并通过这些测试用例来减轻模型偏见，从而实现更公正的回复。
PDF9 months ago
公平性测试深度推荐系统（FairRec）
本篇研究提出了 FairRec 框架，支持多角度的 DRS 公平测试，并使用 DPSO 算法成功检测出了多个 mainstream DRSs 存在的深度公平问题，并通过简单的二次排序缓解策略显著提升了 DRS 的公平性
PDFa year ago
MM借鉴 NIST CPS 框架理解和推导 CPS
本文提出了一个 CPS 的正式定义，并证明了基于这个定义，可以用 ASP 精确地形式化和实现与 CPS 相关的各种问题，包括关注点之间的依赖或冲突，如何缓解问题以及对于给定问题最合适的缓解策略是什么。文章最后讨论了所提出的方法的潜在性。
PDF2 years ago
EMNLP基于实体的问答中的知识冲突
本文研究了知识依赖任务中遇到的知识冲突问题，找出造成模型幻觉的原因，提出了一种简单的减轻过度依赖学习参数的方法，可以减少幻觉现象并提高模型的泛化性能。
PDF3 years ago