AI 论文速递

最新

Stackelberg游戏中相关政策的模仿学习
本研究解决了在Stackelberg游戏中传统多智能体模仿学习方法无法有效捕捉智能体间复杂互动的问题。通过引入一种专门为Stackelberg游戏设计的相关政策占用度量方法和潜在Stackelberg差分网络(LSDN)，该方法有效分离环境
PDF4 days ago
大型语言模型知道如何丢弃：自注意力引导的键值缓存驱逐以实现高效的长文本推理
本研究解决了大型语言模型在长文本推理中因键值缓存和计算复杂性导致的内存和延迟瓶颈问题。通过发现长文本任务中的注意力稀疏性，提出了一种新的自注意力引导的缓存驱逐方法（SAGE-KV），显著提高了内存效率并保持了与完整注意力相当的准确性。实验结
PDF4 days ago
基于离散世界模型的元强化学习在自适应负载均衡中的应用
本研究针对动态工作负载下操作系统负载均衡的挑战，提出了一种将元强化学习算法与DreamerV3架构相结合的新方法。研究表明，该方法在标准和自适应试验中优于A2C算法，且在不同的工作负载分布和规模下，表现出强大的健壮性，具有重要的资源管理及性
PDF4 days ago
有限观察下的零样本动作泛化
本研究解决了强化学习中代理面对未见动作时难以泛化的问题，提出了一种新的零样本框架AGLO，通过有限观察提取动作表征，并利用增强的合成表征学习策略。实验结果表明，该框架在多个基准任务中显著超越了目前的最先进方法，展现了其在新动作泛化中的有效性
PDF4 days ago
ResBench：具有资源意识的LLM生成FPGA设计基准测试
本研究解决了目前针对LLM HDL代码生成评估时忽视硬件资源效率的问题。论文提出了ResBench，这是首个以资源为导向的基准测试，能够有效区分资源优化和低效的LLM生成HDL。实验证明，该基准测试在评估模型生成资源优化FPGA设计能力方面
PDF4 days ago
交叉审查者：评估大型语言模型生成解释的一致性
本文解决了大型语言模型生成的解释可能误导用户真实推理过程的问题。提出了一种新的方法交叉审查者，通过结合符号信息提取与语言模型驱动的问题生成，生成更优质的后续问题。研究发现，该方法在灵活性和后续问题的多样性上优于现有方法，具有重要的潜在影响。
PDF4 days ago
鲁棒多目标控制解码的大型语言模型
本研究解决了在测试时将大型语言模型（LLMs）对齐人类偏好的问题，提出了一种新的鲁棒多目标解码算法（RMOD），优化最坏情况奖励。通过将解码问题形式化为一个纳什平衡的两个参与者游戏，RMOD在控制计算开销的同时，实现了与多个目标的公平对齐，
PDF4 days ago
结合局部对称性利用与强化学习优化概率推理 -- 进行中的工作
本研究解决了在图形模型中进行高效概率推理所需的最优消除顺序选择的挑战。通过借鉴强化学习方法并结合结构利用，研究提出了一种新颖的成本函数，能够在推理过程中引入紧凑的中间结果编码，从而显著减少中间结果大小。这种方法在提升推理效率方面具有重要潜力
PDF4 days ago
困惑度陷阱：PLM基础的检索器高估低困惑度文档
本研究探讨了PLM基础检索模型中存在的源偏差问题，揭示了其对低困惑度文档的偏好现象。通过因果图分析，我们提出了Causal Diagnosis and Correction（CDC）作为一种新的去偏方法，显著提升了检索的有效性，确保文档质量
PDF4 days ago
CoLMDriver：基于大型语言模型的协作自主驾驶优势
本研究解决了传统协作自主驾驶中单一智能体系统所面临的感知和预测不确定性问题。提出的CoLMDriver系统，结合大型语言模型进行语言基础的协商和实时驾驶控制，实现了协作政策的动态优化。实验结果显示，CoLMDriver在复杂的交互驾驶场景中
PDF4 days ago
面向可解释的蛋白质结构预测：稀疏自编码器的应用
这项研究解决了蛋白质结构预测中序列表示如何影响结构预测的可解释性问题。通过扩展稀疏自编码器（SAEs）至大型蛋白质语言模型ESM2-3B，并采用层次化组织特征的Matryoshka SAEs，我们实现了前所未有的机制可解释性，支持对结构预测
PDF4 days ago
现实环境中的思维链推理并不总是可靠
本研究解决了思维链推理（CoT）在实际应用中表现出的不可靠性问题，特别是在没有人为偏见的情况下。我们发现前沿模型在多个问题对中表现出显著的思维链不可靠率，尤其是模型常常会在逻辑上矛盾的情况下进行“隐性事后合理化”。此发现对依赖思维链监控以检
PDF4 days ago
GarmentCrafter: 逐步新视图合成用于单视图3D服装重建与编辑
本研究解决了非专业用户在单视图图像中创建和编辑3D服装的难题。通过逐步深度预测和图像扭曲的方法，提出了一种新的3D服装重建技术，保证了视图间的一致性和细节的精确重构。实验表明，GarmentCrafter在视觉保真度和视图一致性方面优于现有
PDF4 days ago
AgentOrca：评估语言代理在操作规范和约束遵循方面的双系统框架
本研究针对语言代理在遵循操作程序和约束方面的可靠性不足问题，提出了AgentOrca框架。该框架通过自然语言提示和可执行代码编码操作约束及程序，采用自动化的测试用例生成与评估方法，量化分析当前语言代理的遵循情况。研究显示，先进模型在遵循操作
PDF4 days ago
REGEN：使用（再）生成解码器学习紧凑的视频嵌入
本研究解决了视频嵌入在生成建模中的准确性不足的问题，通过采用弛缓标准，提出了一种新的学习方法。研究中用扩散变压器（DiT）替代传统的编码-解码框架，显著提高了编码和解码性能，实验结果表明，压缩比最高达到32倍，使文本到视频生成的效率大幅提升
PDF4 days ago
MEAT：用于人类生成的多视角扩散模型，具有网格注意力机制
该研究解决了现有多视角扩散模型在生成高分辨率人类图像时遇到的挑战，特别是在提升到百万像素级别时的效果不佳。通过引入网格注意力机制，该方法在1024x1024分辨率下实现了高效训练，显著简化了多视角注意力的复杂性并保持视角一致性。实验结果表明
PDF4 days ago
生成机器人宪法与语义安全基准
本研究解决了机器人在语义安全方面面临的新风险，尤其是在与人类自然语言互动中的潜在危险。文章提出了ASIMOV基准，并介绍了一种通过生成自动修改机制的方式来制定机器人宪法，从而提高机器人的行为安全和与人类偏好的对齐程度。实验结果表明，使用生成
PDF4 days ago
探索大型语言模型的词义消歧能力
本研究探讨了大型语言模型在词义消歧（WSD）任务中的表现，填补了这一经典任务逐渐被忽视的空白。通过扩展XL-WSD基准，设计了适合于大型语言模型的两个子任务，结果显示虽然大型语言模型在零-shot 学习上表现良好，但只有经过微调的模型才能超
PDF4 days ago
利用遵循指令的检索器进行恶意信息检索
本研究探讨了遵循指令的检索器在满足恶意查询方面的安全风险，填补了这一领域的研究空白。我们通过实证研究发现，六个主要检索器在处理恶意请求时，能够选择相关的有害信息，且这类风险与检索器的指令遵循能力密切相关。这表明，随着检索能力的提升，恶意滥用
PDF4 days ago
重新思考高维中的扩散模型
本研究探讨了高维数据生成中扩散模型面临的维度诅咒问题。通过对扩散模型目标函数和推断方法的详细分析，研究揭示了这些模型在高维稀疏场合下的适应机制，并提出了一种统一的框架，从而发现了更高效的推断方法。这项工作对理解和优化扩散模型具有重要影响。
PDF4 days ago