- 如果只需检索,是否真的需要长文本背景?朝着真正困难的长文本 NLP 迈进
长文本任务的困难程度及其特性对于研究具有重要意义,需要使用更准确的词汇和描述来理解长文本任务的相似性和差异性。本文提出了两个衡量长文本任务困难程度的维度:信息扩散和任务范围,并通过对相关文献的调查和定位,阐明了其重要性和未来的研究方向。
- 从分布到 Overton 多元主义:研究大型语言模型的对齐问题
对语言模型执行对齐过程会改变其输出分布的多个属性。研究分析了语言模型响应的对齐后分布漂移的两个方面,发现对齐过程抑制了无关和无用的内容,将输出分布转向覆盖基础语言模型中多个响应的信息,从而在单个响应中提供多样化的信息。此外,研究还表明基础模 - 当推理遇上信息聚合:体育叙事案例研究
综合真实 NBA 篮球数据,我们提出了一种名为 SportsGen 的新方法,用于综合比赛叙述,以严谨评估复杂情景下 LLMs 的推理能力,结果表明 GPT-4o 等大多数模型常因频繁的得分模式而不能准确汇总篮球比分,而开源模型如 Llam - 智能代理链:大型语言模型在长文本任务上的协作
通过多个代理的协作,链式代理(CoA)框架能够处理长上下文任务,凭借信息聚合和上下文推理,有效提升任务质量。
- LF Tracy: 光场相机中显著物体检测的统一单管道方法
我们提出了一种有效的方法(LF Tracy),利用从光场相机中提取的丰富信息,并利用数据增强和信息聚合来增强显著目标检测(SOD)的性能。该方法在最新的大规模 PKU 数据集上相较于现有最先进方法取得了 23% 的改进,并且只使用了 28. - Hi-ResNet:高分辨率遥感图像语义分割网络
本研究提出了一个高分辨率遥感图像网络模型,可解决同类别地物在不同地理环境下形态和比例显著不同,以及复杂背景噪声干扰下影响现有学习算法效果的问题。该模型包含漏斗模型、信息聚合模块、特征精炼模块和 CEA Loss 损失函数,并通过有效的预处理 - 图混合专家:使用显式多样性建模在大规模图上学习
该论文引入了 Mixture-of-Expert(MoE)思想到图神经网络中,提出了一种新的 Graph Mixture of Expert(GMoE)模型,用于同时建模多样的训练图结构,通过在 OGB 基准测试中表现的提升来验证 GMoE - 联邦决策制定的融合策略
本篇研究讨论信息聚合问题,即在联邦决策中,一组代理协作推断自然状态而不与中心处理器或其他代理共享其私有数据。我们分析了非贝叶斯社会学习策略,其中代理将他们的个体观察结果纳入他们的观点中,中心处理器通过算术或几何平均来聚合这些观点。通过我们以 - 联合加权平均 (JWA) 算子
本研究提出了一种结合了两种信息聚合方法的加权平均算子,利用组合几何将信息来源和证据的先验价值整合起来,从而产生无法通过传统算子实现的结果,并探讨了该算子在机器学习和心理学等不同领域的潜在应用。
- AAAI基于相关掩蔽建模的紧凑型 Transformer 跟踪器
本文证明了自注意力结构足以实现信息聚合,无需进行结构适应以及对于目标跟踪提取辨别特征和增强目标和搜索图像之间的通信。通过采用基本的视觉 Transformer(ViT)架构作为主跟踪器,并将模板和搜索图像进行特征嵌入,进而提出了一种紧凑的变 - LightViT: 轻量化无卷积视觉 Transformer
本研究提出了一种名为 LightViT 的轻量化 transformer 网络,通过全局有效聚合策略结合注意力机制和多维度的通道 / 空间注意力机制来捕捉全局依赖信息,从而实现更好的准确性和效率平衡。实验证明,该模型在图像分类、目标检测和语 - NDGGNET:基于结点无关门的图神经网络
该论文提出了一种新的框架,使用基于节点度数的门控机制动态地调整图神经网络的层数,从而增强信息聚合的能力并减少过度平滑,通过实验验证该模型在多个数据集上表现良好。
- ACLArgFuse: 一种弱监督的文档级事件参数聚合框架
介绍了信息聚合或参数聚合任务,旨在从长文本记录生成精确的文档级信息框架,并探索使用弱监督技术实现信息聚合任务的算法及其基准结果。
- EMNLP全球 COVID-19 信息聚合系统
本文介绍了一个建立在可靠的 COVID-19 网站数据集基础上的、面向世界各地用户的信息汇聚系统,该系统可帮助用户查找各地的 COVID-19 相关新闻,并通过神经机器翻译和基于 BERT 的主题分类器帮助用户高效地获取自己感兴趣的信息。
- 评分策略代理
介绍了一种预测评分模型,旨在解决发送方的失真问题,通过信息聚合减轻接收方的承诺问题。
- HATS:用于股票走势预测的分层图注意力网络
本论文提出了一种基于图结构数据的股票市场预测方法,即分层注意力网络(HATS),该方法通过选择性地聚合不同类型的关系信息,将其添加到其每个公司的表示中,并用于预测个股价格和市场指数的走向。
- IJCAIFaRM: 自发本地化场景中信息聚合的公平奖励机制(扩展版)
本研究介绍了一种名为 FaRM 的机制,它是一种纳什激励机制,专注于支持基于本地活动的信息聚合,为代理人提供公平奖励,这是通过使用对抗恶意代理人的技术,衡量代理人的历史行为记录,并解决其他潜在问题来实现的。
- ACL基于协议路由的多头注意力信息聚合
本研究旨在提高多头注意力机制信息聚合的表达能力,通过路由一致性算法来迭代地更新内部表示向最终表示的分配比例,实验结果表明,该改进算法比传统线性转换方法更优秀。
- CIA-Net: 轮廓感知信息聚合实现稳健的细胞核实例分割
提出一种名为 CIA-Net 的新型深度神经网络,它具有多级信息聚合模块和双向聚合任务专用功能。通过作用于细胞核和轮廓的特征,可以减少分割中存在的问题,从而增强该网络对未见组织的分割能力,同时在 2018 年 MICCAI 挑战赛中证明了该 - 非贝叶斯社会学习
研究信息聚合和社会学习模型,发现当个体代理通过私有观察和邻居信念的更新以及平均相信邻居来学习正确的世界状态时,使用特定的条件,代理最终会预测未来趋势并达成一致共识。