自然语言处理性能评估变得越来越复杂，本文首次研究了基于人工方法的团队鉴定在机器翻译中的应用，为理解和改进翻译模型的性能迈出了重要一步。

Jan, 2024

该研究旨在通过利用高维光谱波段重新构建可见颜色，从卫星图像中学习有意义的表示，以进行地表覆盖分类和航空监测等深度学习技术的研究。

Jun, 2020

近年来，黑盒机器学习方法已成为遥感领域知识提取的主要建模范式。本文通过系统回顾，总结了遥感应用中可解释人工智能方法的使用趋势、发现和挑战，并揭示了解释解析的常见模式，提供了该领域的最新综述和未来研究方向的基础。

Feb, 2024

生成模型和红队的攻击策略研究与语言模型的功能能力密切相关，调查还涉及到多模式攻击等新领域，希望这个调查能够为研究领域提供系统的视角并开启新的研究领域。

Mar, 2024

通过适应最近的 XAI 分类算法并将它们用于多类别图像分割，本文着重于对高分辨率卫星图像中的建筑物分割的研究，引入了一种基于 “熵” 来衡量模型不确定性的新的 XAI 评估方法和指标，以此来提供透明度和可解释性，为图像分割领域的 XAI 研究和遥感应用铺平道路。

Oct, 2023

评估不同提示技术对解答质量的影响，通过红组合作将 LLMs 在基础计算和代数任务上进行测试。结果发现，尽管结构化推理和提供解题示例可以减缓解答质量的恶化，但 gpt-3.5-turbo 和 gpt-4 模型在基础计算和推理任务上表现不佳，即使在红组合作的情况下。

Dec, 2023

提出了一种可验证深度学习模型准确性的可解释人工智能方法（XAI）——“我知道什么（WIK）”，通过在遥感图像分类任务中演示一个与要推理的输入数据类似的训练集实例来提供附加信息。该方法能够检查所选示例数据是否足够支持每个推断以及训练数据集是否具有不同于输入数据特征分布的功能，其可用于各种分类和回归等机器学习任务。

Feb, 2023

本文综述和比较了最近发表在文献中的基于机器学习的高光谱图像分析方法，将方法按图像分析任务和机器学习算法类型进行组织，并提出了一种两向映射。文章全面涵盖了高光谱图像分析任务和机器学习算法，涵盖的图像分析任务包括土地覆盖分类、目标检测、反混合和物理参数估计，涵盖的机器学习算法包括高斯模型、线性回归、逻辑回归、支持向量机、混合高斯模型、稀疏线性模型、高斯混合模型、集成学习、有向图模型、无向图模型、聚类、高斯过程、狄利克雷过程和深度学习。同时，文章也讨论了高光谱图像分析领域的挑战和可能的未来方向。

Feb, 2018

提出了一种基于贝叶斯优化的黑盒反向渗透方法，利用预定义用户输入池和过去的评估迭代地识别多样的正向测试用例，以在有限的查询预算下找到更多的多样的正向测试用例。

May, 2023

本研究基于高水平、抽象的不良行为规范，通过三步，即探索模型的行为、建立不良行为的衡量标准、利用该标准和既定的红队方法来利用模型缺陷，从而针对 GPT-2 和 GPT-3 模型进行红队演练，发现可激发有毒或不诚实言论的提示，同时构建并发布包含 20,000 条声明的 CommonClaim 数据集。

Jun, 2023