AI 论文速递

最新

语境是关键(NMF)：建模华人 diaspora 媒体中的主题信息动态
本研究探讨了中国人民共和国内部对欧洲选举的影响，尤其是通过华侨媒体传播的叙事。研究提出了一种新方法KeyNMF，用于静态和动态主题建模，并在多个中文数据集上展示了其竞争力。研究的主要发现表明，KeyNMF在分析华人媒体的信息动态方面有效，为
PDFa day ago
双原型演变用于视觉语言模型的测试时泛化
本研究解决了现有视觉语言模型在测试时间适应中无法有效积累任务特定知识的问题。提出的双原型演变（DPE）方法采用文本和视觉原型，促进多模态表示的精准捕捉。实验结果表明，DPE在15个基准数据集上优于现有最先进的方法，并具有良好的计算效率。
PDFa day ago
元分块：通过逻辑感知学习高效的文本分段
本研究针对检索增强生成（RAG）过程中文本分块的重要性缺失问题，提出了“元分块”概念，旨在构建句子与段落之间的细粒度分块方式。通过设计两种基于大语言模型的策略，实验结果表明，元分块显著提升了基于RAG的单跳和多跳问答的性能，特别是在2Wik
PDFa day ago
多模态的诅咒：评估大型多模态模型在语言、视觉和音频中的幻觉
本研究系统性探讨了大型多模态模型（LMMs）在语言、视觉和音频模态中幻觉现象的问题，这一现象限制了其在现实场景中的应用。我们提出了“多模态的诅咒”（CMM）基准，深入分析幻觉产生的原因，并强调了需要在跨模态学习中实现平衡与增强幻觉缓解策略的
PDFa day ago
通过神经符号集成方法预测金属价格峰值
本研究解决了预测钴、铜、镁和镍等关键金属价格峰值的需求，以减少与全球趋势相关的经济风险。我们提出了一种神经符号集成框架，通过结合多个神经模型和符号错误检测与纠正规则，显著提高了预测准确性。研究表明，所提方法在精度上提升了6.42%，召回率增
PDFa day ago
JudgeBench：评估基于大型语言模型的评审者的基准
本研究针对当前评估模型时基于大型语言模型（LLM）的评审者的可靠性不足问题，提出了一种新的评估框架。通过创建JudgeBench基准，我们能够客观评估LLM评审者在知识、推理、数学和编程等挑战性任务上的表现，显示出JudgeBench相比于
PDFa day ago
上下文缩放与任务缩放在上下文学习中的比较
本研究解决了变压器在上下文学习中的两个关键组成部分：上下文缩放和任务缩放。通过提出一种简化的变压器架构，研究表明这种架构在多种统计学习任务中与原始的GPT-2模型具有可比的表现，且通过结合特征映射与多层感知器，可以实现上下文缩放和任务缩放的
PDFa day ago
上下文学习使机器人动作预测在大型语言模型中成为可能
本研究针对现有大型语言模型（LLMs）在直接预测机器人动作方面的研究空白，提出了RoboPrompt框架。该框架利用上下文学习（ICL）技术，无需训练即可使文本基础的LLMs直接预测机器人动作。通过对关键帧的识别和描述，RoboPrompt
PDFa day ago
长序列大重建模型用于广覆盖高斯点云
本研究解决了传统模型在大场景重建中只能处理少量输入图像的瓶颈问题。我们提出的Long-LRM模型，结合现代Mamba2块与经典变换块，能够在1.3秒内处理32张960x540分辨率的图像，显著提升了处理效率与质量。实验表明，该方法在DL3D
PDFa day ago
几何感知生成自编码器用于扭曲黎曼度量学习与数据流形的生成建模
本研究针对传统方法在高维数据生成和流形学习中的不足，提出了一种几何感知生成自编码器GAGA，能够有效地处理数据生成、插值和人群迁移等问题。GAGA通过学习扭曲的黎曼度量，建立尊重内在几何的神经网络嵌入空间，表现出在单细胞轨迹推断中较现有方法
PDFa day ago
扩散模型中的元忘却：防止重新学习已忘记的概念
本研究解决了扩散模型（DMs）在释放后由于恶意微调而导致重新学习已忘记概念的问题。我们提出的元忘却方法使得即使在恶意微调的情况下，也能有效防止某些相关的无害概念触发重新学习，从而增强模型的安全性。实验结果验证了该方法在现有的忘却方案中具备良
PDFa day ago
利用点对点的可用信息识别多任务学习的任务分组
本研究解决了多任务学习中任务分组不当导致负迁移的问题。我们提出了一种基于任务难度的任务相关性度量，利用点对点可用信息（PVI）来识别最优任务分组。实验表明，相似PVI估计的任务联合学习能够在多个领域实现竞争性结果，同时减少模型参数数量。
PDFa day ago
Harmon: 从语言描述生成类人智能机器人的全身运动
本研究解决了类人机器人在与人类环境的共存中对自然语言理解和人类行为表现的能力不足的问题。通过利用人类运动数据库中的运动先验知识，并结合视觉语言模型的常识推理能力，我们提出了一种生成多样化、自然表达且与文本对齐的类人机器人全身运动的方法。实验
PDFa day ago
为分布式无线网络中的鲁棒调制分类接种的联邦学习
本研究旨在解决分布式无线网络中自动调制分类（AMC）面临的噪声影响和模型优化难题。提出的FedVaccine模型通过引入平衡噪声和采用分裂学习策略，改善了模型的普适性与鲁棒性，显著提升了在不同噪声水平下的AMC系统的可靠性和性能。
PDFa day ago
2024年开放材料（OMat24）无机材料数据集及模型
本研究解决了材料发现与设计过程中的数据匮乏问题，提出了OMat24大型开放数据集及预训练模型，为AI在材料科学中的应用提供了重要支撑。研究显示，EquiformerV2模型在材料预测中表现出色，可实现高达0.9的F1分数和20 meV/at
PDFa day ago
朝向零样本相机监测图像分类
本研究旨在解决自动分类相机监测图像的有效性问题。作者提出了一种新颖的方法，将MegaDetector与多个分类器结合，并利用大型语言模型进行零样本处理。研究发现，结合MegaDetector与两个独立分类器的方法显著提高了分类准确性，尤其在
PDFa day ago
非局部模型合并问题：排列对称性和方差崩溃
本研究针对“非局部”模型合并中的挑战，探讨传统合并技术在处理预训练专家模型显著变化时的局限性。提出了一种多任务技术，通过重新缩放和调整合并模型的输出激活，显著提升了在非局部设置下的模型合并性能，为该领域的未来研究奠定了坚实的基础。
PDFa day ago
重力对齐的旋转平均与圆形回归
本文针对3D场景重建中旋转平均精度不足的问题，提出了一种将重力方向整合进全局管道的旋转平均新方法，从而提升相机方向的精度并减少自由度。该方法在四个大规模数据集上表现出色，平均比传统方法提高了13个AUC@$1^\circ$点，同时运算速度提
PDFa day ago
SAFREE：无训练且自适应的安全文本生成图像和视频的保护措施
本研究针对现有文本生成图像和视频的安全性问题，提出了一种新的无训练方法SAFREE，能够在不改变模型权重的前提下，有效过滤有害内容，同时保持图像质量。SAFREE的自验证过滤机制和自适应重注意力机制确保了生成的内容在保留安全概念的同时，达到
PDFa day ago
统一多边际BERT用于稳健自然语言处理
本研究解决了深度学习在对抗攻击中面临的挑战，特别是针对自然语言处理(NLP)系统的漏洞。通过结合单位权重和多边际损失的方法，提出了一种新的通用技术，显著提升了BERT模型的鲁棒性，后攻击分类准确率提高了5.3%，达到73.8%，同时保持了竞
PDFa day ago