- RL 代理体验的影响因素:高效估计经验的影响
本文介绍了一种高效估计经验影响的方法,Policy Iteration with Turn-over Dropout (PIToD),并应用于改进表现不佳的强化学习代理,通过估计负面有影响的经验并删除它们的影响,显著提高了代理的性能。
- ACL大规模语言模型的基于令牌的影响训练数据检索
提出了 RapidIn 框架,用于估算每个训练数据对大型语言模型生成的影响,通过缓存和检索阶段,压缩梯度向量并支持多 GPU 并行加速,实现了超过 6326 倍的加速效果。
- 网络推理和影响估计的可扩展连续时间扩散框架
我们通过将扩散过程视为连续时间动力系统,建立了一个连续时间扩散模型,以此来推断潜在的网络结构,并且通过高级抽样技术提高了影响力估计的可扩展性,FIM 在网络推断和影响力估计方面具有显著的效果和优越的可扩展性。
- DualView: 双重视角的数据归属
本研究介绍了一种基于替代建模的后续数据归因方法 DualView,它在计算效率和评估结果方面表现良好。通过使用适合的定量评估策略和相关的局部数据归因方法,我们发现 DualView 方法在需要较低计算资源的同时,表现不亚于其他方法。此外,该 - 遗忘揭示了语言模型的重要训练数据
利用 UnTrac 方法,通过梯度上升来衡量训练数据集对模型输出的影响,在不需要额外大内存空间或多个模型检查点的情况下,能更准确地估计预训练数据集对生成有毒内容的影响。
- 扩散模型的数据归因:时间步引起的对影响估计的偏差
Diffusion-TracIn 和 Diffusion-ReTrac 方法针对扩散模型的时间动态性进行了研究,通过重新归一化适应性,以减少普遍具有影响力的样本数量,从而提供了更直观的可视化,并通过各种评估指标和辅助任务证明了方法的有效性。
- DySuse: 动态社交网络中的易感性估计
通过在动态社交网络中进行的感受性估计,我们提出了一种新的基于动态图嵌入技术的端到端框架 (DySuse),该框架结合了结构和时间信息,以更准确地预测影响传播的结果,并在多个影响传播模型中展现出满意的预测性能。
- 哪些经历对您的代理有影响?具有离职随机删除的政策迭代
本文提出了 PI+ToD 方法来有效地评估经验的影响,该方法利用 Turn-Over Dropout 达到效率,实验结果表明其在 MuJoCo 环境中表现优秀。
- AAAI通过节点归因解释图神经网络中的不公正性
本文提出了一种新的策略 PDD,它可以衡量 GNN 中表现出的偏见,并开发了一种算法来有效地估计每个训练节点对此偏见的影响力。在真实世界的数据集上进行实验验证了 PDD 的有效性和影响力估计的有效性,并演示了如何使用该框架进行 GNN 去偏 - AAAI用梯度回滚解释神经矩阵分解
本论文提出了一种通用的 influence estimation 方法 - gradient rollback,旨在解决神经黑盒模型解释性问题,此方法可以高效地进行训练和测试,且实验表明它能够为各种应用场景(包括知识图谱嵌入和推荐数据集)提 - 可扩展的无需采样的影响力估计
在社交网络中进行信息传播时,基于动态消息传递方法的算法可以用来估计独立级联模型中的影响力函数,从而代替对具有高计算复杂度的边缘概率的 Monte-Carlo 采样方法,同时提供一个解决计算效率问题的方法。
- 十亿级网络中的外部影响和级联规模估计
本文提出了一种新的影响力度量,称为外向影响(OI),并基于 OI 提出了一个新的影响估计方法 SIEA / SOIEA,旨在通过分析随机变量的方差和范围来最小化样本数,而与现有的影响度量方法相比,该方法在理论上快数个对数,实践中快数个数量级 - NIPS连续时间扩散网络中的可扩展影响估计
本文提出了一种基于随机算法来进行影响估计的方法,该方法可以在连续的时间传播网络中估计每个节点的影响力,通过大规模的实验数据表明,该方法不仅精度高,而且能够扩展到数百万个节点的网络上。