dropout techniques | BriefGPT

关键词dropout techniques

搜索结果 - 4

ICLR基于 Dropout 的 Rashomon 集探索技术用于高效的预测乘性估计
通过利用 dropout 技术来探索 Rashomon 集合中的模型，提出了一个用于衡量和减轻预测多样性的新框架，通过严格的理论推导和实验证明该技术在预测多样性度量估计方面始终优于基准方法，并通过 dropout 集成和模型选择实现了高效的
PDF5 months ago
机器学习算法在人口统计学上的公正性
研究俄罗斯人口数据的分类器的公平性问题，提出了使用 “特征丢弃” 来解决过程公平性，同时使用 “LIME 解释” 来评估分类器的公平性和决定敏感特征的消除，结果表明所有的模型都变得不再依赖于敏感特征，并表现出更好或没有影响的准确性。
PDF2 years ago
ACLUniDrop：一种简单而有效的技术，可以在不增加额外成本的情况下提高 Transformer 的性能
该论文介绍如何将不同的 dropout 技术整合到 Transformer 模型的训练中，从而提高其性能。实验结果表明，使用 UniDrop 可以在 IWSLT14 翻译任务中取得约 1.5 BLEU 的改进，并且即使在强大的预训练 RoB
PDF3 years ago
AAAI适用于循环神经网络的对抗性 dropout
通过采用敌对概念生成的 dropout mask 来改进循环神经网络的性能，实现了对于时序 MNIST 任务、半监督文本分类任务和语言建模任务中 RNNs 的 dropout 技术的有效性提高。
PDF5 years ago