Reinforcement Learning 与 Large Language Models 的直接对齐方法之间存在悬殊，因此引入了 Contrastive Policy Gradient 算法来解决，在 Summarization 任务中获得了可靠的结果。

Jun, 2024

本文介绍了一种新颖的基于卷积的概率梯度（CPG）损失方法，它使用类似 Sobel 算子的卷积核计算图像中像素强度的梯度，从而能够计算真值和预测的类别概率之间的梯度。这种方法通过最大化这两个概率梯度之间的相似性来提高网络性能。此外，为了专门增强物体边界附近的准确性，我们根据真值概率梯度提取物体边界，并仅将 CPG 损失应用于属于边界的像素。CPG 损失被证明非常方便和有效，通过卷积建立像素间的关系，并且与像素级损失函数（例如交叉熵损失）相比，从独特的维度计算错误。我们对三个常用的分割数据集（Cityscapes，COCO-Stuff，ADE20K）中三个已建立网络（DeepLabv3-Resnet50，HRNetV2-OCR，LRASPP_MobileNet_V3_Large）的 CPG 损失的影响进行了定性和定量分析，广泛的实验结果一致且明显地表明 CPG 损失提高了平均交并比。

Apr, 2024

本文提出了一种基于多级时空建模法的新型唇读模型，采用细粒度和中等粒度特征提取方法，结合时域注意理解整个输入序列，该模型在挑战的单词级唇读基准测试中表现出良好的效果。

Aug, 2019

本研究提出一种使用硬实时在线对齐而非软离线对齐的序列到序列问题解决方法，使用硬二元随机决策来选择输出时间步，使用标准策略梯度方法训练该模型，以实现高精度的基于语音的实时翻译。在实验中，该模型在 TIMIT 和 WSJ 语音识别数据集上表现出令人鼓舞的性能。

Aug, 2016

本研究旨在改进当前用于野外孤立词识别的最先进模型，首先通过引入 TCN 替代 BGRU 层，简化训练过程，其次，提出变长度数据增强技术，最终在两个最大的公开数据集上展示了 1.2% 和 3.2% 的性能增益，这是最新的最先进性能。

Jan, 2020

通过利用大规模预训练语言模型，我们引入了一种名为 Neural PG-RANK 的新型训练算法，该算法通过实例化一个语言模型为 Plackett-Luce 排序策略，为检索模型的端到端训练提供了一种合理的方法，并有效地将训练目标与下游决策质量相统一。实验证明，当训练目标与评估设置一致时，Neural PG-RANK 在领域内表现出卓越的性能提升，并在下游问答任务中对一些关键数据集进行了实质性的跨领域泛化。

Oct, 2023

本文介绍了如何在最大似然和策略梯度训练中联合训练来减少最大似然和语音识别性能指标之间的不匹配，并通过实验验证了其效果。

Dec, 2017

该研究提出了一种上下文感知的可视策略（CAVP）神经网络，通过深度强化学习技术，能够有效的实现面向序列的图像描述。与传统的视觉注意力方法不同，CAVP 可以在时间上应用复杂的视觉组合，并涵盖了先前的视觉关注上下文来推测当前的词生成过程，从而更好地捕捉图像中的视觉关系和比较，最终在 MS-COCO 数据集上表现出了最先进的性能。

Aug, 2018

本文提出了一个用于零资源语音处理的新的模型，称为分段对比预测编码，能够对音频信号的帧级和更高级别的分组进行编码，并将此模型用于音素和单词分割，结果在 TIMIT 和 Buckeye 数据集上显著优于现有方法。

Jun, 2021

介绍了 Policy Cover-Policy Gradient (PC-PG) 算法，其通过学习的策略集 (策略保证) 来平衡探索和开发的权衡，同时具有强大的模型误差优化保证

Jul, 2020