可解释机器学习与大型语言模型相结合，评估解释方法并提出使用语言模型分析数据集和生成交互式解释的两个研究重点。

Jan, 2024

该研究论文提出了一种自监督可解释概念嵌入模型（ICEMs），通过利用大型语言模型的泛化能力，在自监督方式下预测概念标签，并通过可解释的函数提供最终预测结果。实验结果表明，ICEMs 可以以自监督方式进行训练，并达到类似于全监督概念模型和端到端黑盒模型的性能。此外，该模型在预测方面具有解释性、互动性和可控性，能够提供有意义的逻辑解释、允许通过概念干预修改中间预测结果，并引导大型语言模型按照所需的决策路径进行解码。

Jun, 2024

简述了解释性机器学习领域的发展历程，综述了最新的解释方法，讨论了挑战，提出了回归建模、基于规则的机器学习、敏感性分析、因果推断和社会科学等领域的启示。

Oct, 2020

利用大型语言模型和上下文学习，本研究提出了一种新的解释框架，展示了语言模型在解释其他预测模型方面的有效性，并通过实验证明了其与现有解释技术相媲美的性能，从而在可解释的人工智能领域开辟了新的研究前沿。

Oct, 2023

通过对一些最先进的 VLM（Visual Language Model）进行分析，我们发现它们在执行 ICL（In-Context Learning）指令时存在一定的不足。为了验证这个猜想，我们提出了一种简单但令人惊讶地有效的策略，通过扩展一个常见的 VLM 对齐框架，实现 ICL 支持、方法和课程设置。我们探讨、分析并提供了对有效数据混合的见解，从而显著提升了 21.03% 的 ICL 表现（平均 11.3%），超过了最强 VLM 基线和多种 ICL 基准，并为 VLM 的 ICL 评估贡献了新的基准，并讨论了它们相对于现有技术的优势。

Mar, 2024

应用大型语言模型的案例研究表明，模拟复杂人口群体在大型开放空间中的行为和热偏好，并将其集成到基于增强学习的代理 - 环境闭环算法中，可以在节能和居住者舒适性之间找到平衡，从而显示出远优于传统的设定点控制策略，这表明在 CPS-IoT 应用中实现自适应和个性化决策对于高效优化至关重要。

Mar, 2024

通过研究在背景语境中的大规模神经语言模型对正则语言的学习，我们展示了 Transformers 相对于递归或卷积模型在 in-context 语言学习任务上的显著优势，并提出硬连接高阶归纳头到递归和卷积模型可改善这个任务和自然语言建模的性能。

Jan, 2024

提出 LLM4PLC 的用户引导迭代流程，通过用户反馈和外部验证工具来改善大型语言模型（LLM）生成的代码的可验证性，提高成功生成的比例并提高代码质量。

Jan, 2024

我们引入了口头化机器学习 (VML) 框架，通过限制参数空间为人类可解释的自然语言，将大型语言模型 (LLMs) 视为由文本提示参数化的函数，通过 VML，我们重新审视经典的机器学习问题，如回归和分类，发现这些问题可以通过 LLM 参数化的学习器和优化器来解决，VML 的主要优势包括容易编码归纳偏差、自动模型选择和解释性学习器更新，我们进行了多项研究来评估 VML 的有效性，并希望 VML 能成为机器学习中更强解释能力和可信度的垫脚石。

Jun, 2024

本文介绍了一种名为 IMLI 的基于最大可满足性的可解释学习框架，通过结合小批量学习和迭代规则学习的方法，实现了分类规则的合成。实验结果表明，IMLI 在预测准确性、可解释性和可伸缩性之间取得了最好的平衡，并用于学习流行的可解释分类器，如决策列表和决策集。

May, 2022