log-likelihood | BriefGPT - AI 论文速递

关键词log-likelihood

搜索结果 - 16

直接对齐中的平均对数似然
为了更好地将大型语言模型与人类判断相一致，本研究通过从人类反馈中学习奖励模型，然后使用规则化强化学习进行优化。最近，引入了直接对齐方法，通过从偏好数据集中学习一个经过调优的模型，而无需计算代理奖励函数。然而，这些方法建立在包含对训练模型中（
PDF9 days ago
ACLBEAR: 评估因果和屏蔽语言模型中关系知识的统一框架
评估一个语言模型在预训练过程中是否成功地学习到关系性知识的知识探测方法及其在不同类型语言模型上的有效性的实验评估。
PDF3 months ago
基于 $χ^2$ 散度的变分重要采样
通过最小化前向 χ^2 散度来优化建议分布以增强对数似然估计，我们引入了一种称为变分重要性抽样（VIS）的新方法，实现了直接估计和最大化对数似然。将 VIS 应用于各种流行的潜变量模型，包括混合模型、变分自编码器和部分可观测广义线性模型，结
PDF8 months ago
使用单向流进行对抗性似然估计
生成对抗网络（GANs）可以生成高质量的样本，但不能提供样本周围的概率密度估计。本文通过最大化 log-likelihood 来建议改进分区函数的无偏估计方法，同时最大化生成器熵以提供更好的模式覆盖，利用一种新型的流网络 —— 单向流网络来
PDFa year ago
基于受控微分方程的 Hawkes 过程
采用神经控制微分方程技术提出了基于控制微分方程的 Hawkes 进程（HP-CDE）概念，成功地对不规则时间序列数据集进行了建模，并能够准确地计算对数似然。在四个真实数据集上的实验中，该方法的表现优于现有方法。
PDFa year ago
用稀疏矩阵表示加性高斯过程
本文针对加性 Matern 高斯过程，提出基于后向逼近算法的计算方法，计算后验均值、方差、似然函数和梯度的复杂性从 O (n^3) 降低到 O (nlogn)，并应用于贝叶斯优化中，提出了后验更新、超参数学习、习得函数和其梯度的有效算法。
PDFa year ago
ICLR关于使用概率神经网络进行异方差不确定性估计的陷阱
该论文对深度学习中估计异方差高斯分布参数的常见方法进行了研究，并提出了一种称为 β-NLL 的替代方法，该方法可以减轻基于梯度的优化器与对数似然函数损失函数一起使用时产生的困难。该替代方法在不同领域和任务中都表现出可观的改进和更具鲁棒性，这
PDF2 years ago
适当评分规则和单调神经网络的生存回归
提出了一种基于神经网络的生存回归模型 SurvivalMonotonic-net (SuMo-net)，该方法使用时间相关权重的单调限制直接优化对数似然函数，达到了多个数据集上最先进的对数似然得分，是现有神经方法的 20-100× 计算速度
PDF3 years ago
分离与耦合：使用蒙特卡罗变分目标进行后验逼近
本文介绍了一种利用蒙特卡洛估计法加强 VI 下部边界的方法，并使用一种 “分离和耦合” 的程序来识别扩展的建议和目标分配，从而建立了优化不同目标与近似后验分布之间的联系。
PDF5 years ago
Glow: 具有可逆 1x1 卷积的生成流
本文提出使用可逆的 1x1 卷积的生成流简化版 (Glow) 模型，取得了日常基准测试中对数似然的显著改进，并展示了该模型可以高效地合成和操作大型图像。
PDF6 years ago
ICML具有 Kullback-Leibler 和 Renyi 积分界限的变分自编码器学习
该论文提出了两种可用于变分推断和特别是变分自编码器训练的基于 Kullback-Leibler 和 Rényi 分歧的对数似然的新界限，这受到在连续数据集上训练 VAE 时遇到的困难的启发，同时避免了给数据添加任何额外噪音来源的必要，具有数
PDF6 years ago
GumBolt：将 Gumbel 技巧扩展到 Boltzmann 先验
该论文提出了一种名为 GumBolt 的模型，它扩展了 Gumbel 技巧来处理 VAEs 中的 Boltzmann 机先验，并在离散潜变量范围内的 MNIST 和 OMNIGLOT 数据集上实现了最先进的性能和重要性加权估计的日志似然训练
PDF6 years ago
制止 GAN 暴力：生成非对抗网络
研究评估了生成对抗网络引起的网络对网络暴力对人类的财政、社会、精神、文化、语法和皮肤影响，提出了一种更和平的方法 —— 生成非对抗网络（GUNs），使用博弈论为理论和电子模型可获得公正分数的情况下，同时训练生成器和激励模型，实现和谐共处和梦
PDF7 years ago
最大似然增强离散生成对抗网络
本文介绍了将生成对抗网络应用于自然语言任务的困难之处，提出了一种新的最大似然增强离散生成对抗网络方法，并在多个数据集上进行实验证明了其优越性。
PDF7 years ago
通过骨架分解的快速空间高斯过程最大似然估计
提出一种考虑空间维度的无序观测数据的参数估计的框架，利用 Martinsson 和 Rokhlin 描述的骨架方法和 Lin 等人提出的矩阵去皮算法，在满足特定假设的条件下，可以以 $ ilde O (n^{3/2})$ 时间评估对数似然和
PDF8 years ago
学习行列式点过程的期望 - 极大化算法
使用期望极大化算法和特征值及特征向量参数化的方法进行确定性点过程的全核矩阵优化，相较于对核矩阵中条目的渐进梯度上升进行极大似然优化，我们在一个真实的推荐任务中取得了高达 16.5% 的测试日志似然相对收益率。
PDF10 years ago