- 显式地将一般性建模到自监督学习中
自我监督学习的广义性理论定义及新型 GeSSL 框架的提出,能够在数据稀缺和真实世界中实现优越性能。
- 中间架构标准
中级本体论、术语学、整合、广义性和架构
- CVPRSingularTrajectory: 利用扩散模型的通用轨迹预测器
我们提出了 SingularTrajectory,一个基于扩散的通用路径预测框架,通过统一各种人类动力学表示,缩小了不同任务之间的性能差距。
- 人工智能水平:在通往人工智能通用水平的道路上实现进展
我们提出了一个人工通用智能(AGI)模型及其前身的能力和行为分类框架,该框架引入了 AGI 性能、广泛性和自治程度的级别。希望这个框架类似于自动驾驶的级别,通过提供一个共同的语言来比较模型、评估风险并在 AGI 的道路上衡量进展。我们分析了 - ExPT: 用于少样本实验设计的合成预训练
在少样本条件下进行实验设计,ExPT 模型是一个用于少样本实验设计的基础模型,采用了合成预训练和上下文学习的新型组合,通过以目标任务的少量标记数据点为条件生成候选最优结果,从而适应任何设计任务并展现出优越的普适性和性能。
- 生成评估法官
我们提出了一个具有 13B 参数的生成式评测模型 Auto-J,通过训练用户查询和大规模真实场景下 LLM 生成的响应,以适应多样化的评估协议,包括对比评估和单一响应评估,并提供详细分析和案例研究来揭示我们方法的潜力。
- 特化与泛化:对基础模型微调中灾难性遗忘的实证研究
为了解决 fine-tuning 中特性和广泛适用性之间的矛盾,我们研究了来自持续学习的多种规范化方法和来自越界通用化的权重平均方法,发现持续学习和 Wise-FT 方法可以有效减轻广泛适用性的损失,其中 Wise-FT 在平衡特性和广泛适 - 模型是否自我解释:自然语言解释的反事实仿真性
本篇论文中,我们提出了一种新的自然语言解释评估方法 —— 反事实模拟性。实验结果显示,当前大型语言模型 (LLMs) 的解释精度相对较低,精度与可信度相关性也不高。因此,单纯依赖人类评判可能不足以解决问题。
- 群体参数平均化(PAPA)
PAPA 是一种结合了集成方法的一般性和权重平均值的效率的方法,其中一个由多个神经网络生成的种群根据其加权平均值进行更新,以提高性能。
- ICCV跨模态对比学习:多模态视频表征
提出了一种新的对比损失方法 CrossCLR,能够实现跨模态嵌入学习中考虑嵌入空间中类内相似性,避免了同一内容被映射到多个点的问题,从而显著提高了视频与文本的检索和视频字幕生成的性能。该方法具有很好的普适性,可用于其他模态之间的联合嵌入学习 - ICML基于层级专家网络的元学习
该论文提出了一种信息论的元学习模型,通过优化划分学习任务,使得专业的决策者解决子问题,从而达到高效的适应新任务的效果,在图像分类、回归和强化学习三个元学习领域进行验证。
- 用于路面裂缝检测的特征金字塔和分层增强网络
为了确保道路安全,需要进行路面裂缝检测。本研究提出一种基于深度学习的新型网络体系结构,称为特征金字塔和分层增强网络(FPHBN),以解决路面裂缝检测中的难题。实验表明,该方法在准确性和通用性方面优于现有的检测、边缘检测和语义分割方法。
- NIPS神经网络求解微分方程学习一般表示
使用奇异向量规范相关分析(SVCCA)技术,研究神经网络对于指定问题的普适性,并在求解基于泊松偏微分方程的参数化边界值问题的神经网络中,发现第一层神经网络具有普适性,而更深层次的神经网络则更具有针对性。
- 构建三维人体建模的统计形状空间
本文中,我们从最大可获得的商业扫描数据库中重建了一个广泛使用的统计人体表示,并使得产生的模型对社区可用。我们为了学习模型而预处理了几千次扫描,因此开发了强大的最佳实践解决方案,以排列扫描。我们在广泛的评估中展示出新模型的改进准确性和普遍性, - ICLR随机优化的单元测试
本文提出了一种基于单元测试的随机优化算法测试集合,用于快速评估优化算法的鲁棒性和广泛适用性。测试集合对多种现有算法进行了定量和定性分析,并提供了一个可扩展且易于应用于新算法的测试框架。