AI 论文速递

最新

测试时强化学习（TTRL）
本研究针对大规模语言模型（LLMs）在没有显式标签的数据上进行推理任务时的奖励估计问题。这项研究提出了测试时强化学习（TTRL），一种新颖的方法，利用未标记数据对LLMs进行强化学习训练，显著提升了模型在多种任务上的性能，特别是在AIME
PDF2 days ago
视频扩散模型的调查：基础、实现与应用
本研究针对视频生成中存在的运动一致性、计算效率和伦理考虑等问题，提供了扩散模型的全面回顾与分析。论文提出了一种系统的分类法，并探讨了扩散视频生成与其他相关领域的协同作用，旨在为研究人员和实践者提供理论与实践的深入见解。
PDF2 days ago
大语言模型是贪婪代理：RL微调对决策能力的影响
本研究解决了大语言模型（LLMs）在决策场景中表现不佳的问题，具体分析了其贪婪性、频率偏差和知行差距等失效模式。通过利用自生成的思维链（CoT）理性进行强化学习（RL）微调，实验结果表明，该方法显著增强了LLMs的决策能力，提升了探索性并缩
PDF2 days ago
PHYBench：大型语言模型在物理感知与推理中的全面评估
该研究提出了PHYBench，一个新颖的基准测试工具，旨在评估大型语言模型在物理背景下的推理能力。通过设计500个基于现实物理场景的物理问题，这项工作揭示了现有先进模型在复杂物理推理方面相较于人类专家存在显著不足，强调了需要对此类模型进行改
PDF2 days ago
在推理时使用过程奖励指导 VLM 代理进行 GUI 导航
本研究针对现有视觉语言模型在复杂图形用户界面交互任务中的表现不足，提出了一种在推理时通过奖励模型给 VLM 代理提供过程监督的方法。该方法提升了 VLM 代理在静态和动态环境中的行动准确性和任务成功率，静态环境下一步行动准确率提高了 3.4
PDF2 days ago
描述任何内容：详细的局部图像和视频字幕生成
本研究针对视觉-语言模型在图像和视频特定区域生成详细准确描述的挑战，提出了描述任何内容模型（DAM），通过聚焦提示和局部视觉骨干实现局部细节与全局上下文的结合。该模型在七个基准测试中刷新了局部字幕生成的最新记录，显示了其在关键词、短语和多句
PDF2 days ago
一种用于从GDELT重建完整新闻文本的Python工具
本研究旨在解决获取全面新闻数据的困难，提出了一种利用GDELT数据重建完整新闻文本的新方法。通过提供Python代码，研究者可以将高频n-gram数据智能合并，克服现有数据集的限制，从而更便捷地进行经济预测、计算社会科学和自然语言处理等实证
PDF2 days ago
视觉语言模型在简单空间认知中不可靠
本研究针对视觉语言模型在处理简单空间认知（如识别物体相对位置）方面的不足，通过开发名为TableTest的基准数据集对当前主流模型的可靠性进行测试。研究发现，逻辑等效描述的轻微变化即可显著降低模型的表现，这揭示了VLM在现实应用中推理空间关
PDF2 days ago
视觉-语言模型在指称表达生成中的实用能力不足
本研究聚焦于当前视觉-语言模型（VLMs）在指称表达生成（REG）任务中的不足，特别是忽视了实用沟通的原理。我们提出了一个新的数据集（RefOI），并通过对先进VLMs的系统评估，揭示了这些模型在唯一识别参照物、包含多余信息以及与人类实用偏
PDF2 days ago
宝贝，我缩小了语言模型：知识蒸馏方法对性能和可解释性的影响
本研究解决了大型语言模型在资源受限环境中应用的挑战，通过知识蒸馏训练小型学生模型。我们提出新的蒸馏方法并进行系统比较，发现这些方法在模型性能和可解释性上均有显著提升，推动了小型语言模型的蒸馏进程，为大规模语言模型技术的更广泛应用奠定基础。
PDF2 days ago
LongMamba：通过无训练的感受野扩展增强Mamba的长上下文能力
本研究针对Mamba模型在长上下文理解任务中表现不佳的问题，提出了一种无训练的新技术LongMamba，以增强其长上下文能力。LongMamba通过识别并过滤关键标记，缓解了全局通道中的隐藏状态记忆衰减，从而在不增加额外训练的情况下，显著提
PDF2 days ago
评估放射学中的视觉语言模型（VLMs）：全面分析
本研究解决了放射学中特征捕获的不足，评估了三种视觉语言基础模型（RAD-DINO、CheXagent 和 BiomedCLIP）在胸部X光片的气胸和心脏肥大任务中的表现。研究发现，自监督的RAD-DINO在分割任务上表现突出，而文本监督的C
PDF2 days ago
经过认证的最坏情况大型语言模型版权侵犯的缓解
本研究解决了大型语言模型在预训练期间暴露于版权材料所引发的潜在版权侵犯问题。提出了一种名为BloomScrub的方法，通过巧妙结合引用检测和改写技术，能够有效识别和处理可能侵犯的内容，从而大幅降低版权侵犯风险。实验结果表明，该方法不仅有效地
PDF2 days ago
近似矩阵的最大-最小模糊关系方程组
本文解决了最大-最小模糊关系方程组的非一致性问题，通过最小修改控制矩阵实现一致性。研究表明，所提出的方法能够有效计算与给定非一致系统相近的合成一致系统矩阵，并提供了明确的公式以优化距离测量，具有重要的应用价值。
PDF2 days ago
缪子优化器加速Grokking现象
本研究探讨了不同优化器对Grokking现象的影响，该现象指模型呈现出延迟泛化的特征。通过对七个数字任务的实验，发现缪子优化器通过引入谱范数约束和二阶信息，相比广泛使用的AdamW优化器显著加快了Grokking的发生，平均Grokking
PDF2 days ago
大型语言模型与联邦学习结合实现可扩展和安全的物联网管理
本研究针对物联网生态系统扩展带来的可扩展性、安全性和实时决策难题，提出了一种新颖的基于联邦学习的大型语言模型框架（FL-LLM），旨在提升物联网系统智能并确保数据隐私和计算效率。研究表明，该框架通过混合边缘-云处理架构，优化模型更新，提高模
PDF2 days ago
基准测试大型语言模型用于代码异味检测：OpenAI GPT-4.0 与 DeepSeek-V3
本研究解决了识别最有效的大型语言模型用于代码异味检测的问题。提出了一种结构化的方法论和评估矩阵，并使用四种编程语言的数据集对两种前沿LLM进行基准测试。研究发现，分析表明不同模型在性能和成本效益方面的显著差异，为实践者在自动化代码异味检测中
PDF2 days ago
人工智能超级计算机的发展趋势
本研究针对人工智能超级计算机发展的重要性及其相关分析不足的问题，创建了2019至2025年间500台人工智能超级计算机的数据集，并分析了其在性能、功耗、硬件成本等方面的关键趋势。研究发现，超级计算机的计算性能每九个月翻倍，但硬件获取成本和功
PDF2 days ago
认知流状态的导航：用于有效推理支持的情境感知人工智能干预
本研究解决了在人工智能增强推理中干预措施干扰认知流状态的问题。提出了一种情境感知的认知增强框架，通过根据类型、时机和规模三大关键情境因素动态调整干预措施，确保支持者保持深度参与。研究成果显示，该框架能够个性化、适应性强且对认知沉浸的干扰最小
PDF2 days ago
AlphaGrad：非线性梯度归一化优化器
本研究提出了AlphaGrad，一种内存高效的条件无状态优化器，旨在解决自适应方法（如Adam）的内存开销和超参数复杂性问题。通过张量级L2梯度归一化和光滑的双曲正切变换，AlphaGrad实现了尺度不变性，显示出在不同强化学习基准（如DQ
PDF2 days ago