- 通过条件流对不规则时间序列进行概率预测
利用条件归一化流对不规则采样时间序列进行概率预测,解决了缺失值问题,并且相比先前最佳模型,提供了 4 倍更高的似然度。
- 基于和 - 积网络生成可能的反事实情况
由于用户需求和最近的监管(GDPR,AI 法案),AI 系统的决策需要解释。这些决策通常只能进行事后解释,其中因果解释很受欢迎。关于什么构成最佳因果解释的问题必须考虑多个方面,其中 “样本距离” 是最常见的。我们认为,这一要求经常导致不太可 - 重新思考测试时的似然:似然路径原则及其在 OOD 检测中的应用
这篇研究论文提供了一个可靠的理论框架来改进概率估计的可行性,针对分布拟合中的偏差问题提出了一种基于变分自动编码器的新算法,并在无监督的离群检测中取得了优异的实验结果。
- DiffEnc:学得的编码器的变分扩散
用两种改进的扩散模型,DiffEnc 和具有权重参数的扩散损失方法,实现了最先进的 CIFAR-10 评估结果,同时探索了有限深度层次结构和无限深度层次结构中扩散模型的性质。
- 自由形式流动:使任何架构成为标准化流量
我们通过使用梯度的有效估计器来克服了正规化流设计受到解析可逆性需求的约束,并实现了任意保持维度的神经网络作为最大似然训练的生成模型,在分子生成基准测试中取得了出色的结果,同时采用现成的 ResNet 架构在一个反问题基准测试中具有竞争力。
- 一种新的贝叶斯定理用于上限概率
本文在先前的研究基础上,提出了一种关于 Bayes' 后验概率、可测集、概率测度和似然度的新结论,并探讨了其在工程、机器学习和人工智能等领域的应用潜力。
- ACL从语言模型中提取多值关系
通过预训练的语言模型 (LMs) latent language representations 的普遍使用表明它们是一种有希望的结构化知识的来源。然而,现有方法只关注每对主体 - 关系中的一个对象,尽管经常有多个对象都是正确的。为了克服这 - 利用输出概率分布特征识别对抗性音频示例
为了防止对基于机器学习的自动语音识别系统的攻击,我们提出了一种适用于任何预测每个时间步长输出令牌概率分布的 ASR 系统的对抗性示例检测策略。通过计算新音频的可能性,我们可以区分恶意输入和来自干净数据样本的方法,而不影响对质量较差音频的检测 - 对比解码:作为优化的开放式文本生成
本文提出一种基于对比解码的生成算法,将大型语言模型与小型语言模型相比较,找出高质量的文本生成结果,并在自动和人工评估中优于四种强大的解码算法。
- 通过样本排名提升图像聚类及其在遥感图像中的应用
本文提出了一种基于样本排名和加权交叉熵损失的图像聚类技术,其中样本排名基于密集邻域中样本所属当前聚类的可能性计算,该方法可以用于遥感图像。实验结果表明,该技术可以显著提高最先进的图像聚类模型的性能。
- ICML非自回归 Transformer 模型的学习
本文分析了非自回归 Transformer 的学习挑战,提出统一视角来理解存在的成功。研究表明,我们的视角可以解释 NAT 学习中的现象并指导新的训练方法的设计。
- WSDM利用一般部分排序快速学习 MNL 模型并应用于网络形成建模
本研究提出了一种用于近似计算一般偏序排名的 Multinomial Logit 概率的可扩展方法,特别在选择基于网络形成建模问题中的参数估计方面表现出更准确和更好的数据拟合。
- ICML贝叶斯自编码器:分析和修复伯努利似然函数实现的非分布检测问题
该论文提出利用贝叶斯版本的自编码器和替代分布来解决使用伯努利似然函数检测 FashionMNIST 和 MNIST 数据集时可能会失败的问题。
- ICLR深度神经网络中冷后验的统计理论
本文讨论贝叶斯神经网络在图片分类上的应用,发现此类应用使用的是错误的似然度。作者开发了一个描述 “筛选” 过程的生成模型,并与之前使用的调整后的后验概率似然度进行了基于贝叶斯思想的对比。
- SIGIR基于噪声标签稳健学习的隐式反馈数据采样器设计
使用 Bayesian Point-wise Optimization 和 Matrix Factorization 等方法解决难以预测隐式反馈数据中用户偏好的问题,构建了一个噪声标签鲁棒的模型,从而有效提高了优化质量。
- ICMLWaveNODE: 语音合成的连续归一化流
本文提出了一种名为 WaveNODE 的新型生成模型,用于语音合成,并通过连续归一化流来实现。WaveNODE 不需要学生网络或辅助损失项,具有更灵活和复杂的函数,并可以最大化似然性,从而实现可比较的性能。
- 基于模型的强化学习中的目标不匹配
本文研究模型驱动强化学习中的目标不匹配问题,通过探讨训练前向动力学模型的似然性和提高下游控制任务绩效之间的关系,发现单纯遵照似然性训练不一定能提高控制性能,提出一种缓解目标不匹配问题的方法并探讨了其他潜在的解决方案。
- 事后信用分配
本研究提出了一种基于过去决策优劣的后验学习方式,解决了强化学习中的信用分配问题,并通过实证分析展示其成功地解决了一系列信用分配难题。
- 能量启发模型:采样引导分布学习
本文研究通过最大化随机抽样分布的似然函数从而获得一类能量启发式模型,这些模型包含了学习能量函数并提供精确样本和可计算的对数似然下界。同时,这些模型对比了不同的随机抽样算法并提供了对噪声对比估计和对比预测编码排名的新见解。
- ICML基于正向传播的工业时间序列数据新颖性检测方法
Flow-based deep generative models can be used for novelty detection in time series data and outperform traditional metho