制造业中的深度学习模型的不透明性对故障检测和诊断构成了重要挑战。本文对可解释人工智能（XAI）的工具和技术进行了综述，探讨了各种 XAI 方法在增加人工智能决策透明度方面的作用，特别是在涉及人类的关键情景中。同时，我们还讨论了当前的局限性以及未来潜在的研究，旨在在改善信任度的同时平衡可解释性与模型性能，以应用于关键工业用例的人工智能应用。

Apr, 2024

本研究探讨了大型语言模型在生成患者病情诊断解释方面的可靠性和有效性，实验证明大型语言模型生成的解释显著提高了医生对给定诊断的一致性，同时揭示了大型语言模型输出的潜在错误，在医疗保健领域中的潜力和挑战得到了强调，强调了在整合和评估过程中需要谨慎以确保患者安全和优化的临床效用。

Oct, 2023

本文探讨大型语言模型（LLMs）的可解释性领域，强调了增强 LLMs 可解释性的必要性，重点关注预训练的基于 Transformer 的 LLMs，如 LLaMA，以及改善模型透明度和可靠性的解释性方法和评估方法的分类与讨论。

Jan, 2024

提倡使用 LLMs 来增强基于规则的法律系统的可访问性、使用性和可解释性，为法律技术的民主和利益相关者导向视角做出贡献。发展了一种方法来探索 LLMs 在将规则系统生成的解释从高级编程语言翻译成自然语言上的潜在应用，使所有用户能够快速、清晰和便捷地与这些技术进行交互。研究还进一步建立在这些解释之上，通过使用一系列提示链来赋予非专业人士在自己身上执行复杂的法律任务的能力，用于对相同事实案例应用基于规则的不同推理的自主法律比较。

Nov, 2023

利用大型语言模型，结合跨模态基础模型 CLIP，提取视觉输入的语义有意义的表示，并利用轻量诊断模型，对模型失败与偏差进行分析，从而了解黑盒模型的性能

May, 2023

该研究提出一种基于 LLMs 的新型抑郁症检测系统，不仅可以提供诊断，而且可以通过与用户的自然语言对话提供诊断证据和个性化建议。通过案例研究，该系统在各种情况下的表现优于传统方法。

May, 2023

通过将实验技术与大语言模型（LLM）相结合，科学研究的转型正在改变研究领域，提供了超越专业问题解决的人工智能能力，成为人类科学家的研究助手。该研究提出了一个模块化框架，将电力系统和 LLM 领域的专业知识集成，以解决 LLMs 在电力系统仿真方面面临的挑战，从而提高 LLMs 在先前未知工具上进行电力系统仿真的能力。通过在 Daline 中使用 34 个仿真任务进行验证，这个框架将 GPT-4o 的仿真编码准确率从 0% 提高到 96.07%，同时超过了 ChatGPT-4o 网络界面的 33.8% 准确率（已上传整个知识库）。这些结果突显了 LLMs 作为电力系统研究助手的潜力。

Jun, 2024

该研究探讨了最新的大型语言模型（LLMs）是否能够帮助将人类解释转化为能够支持从演示中稳定学习线性时间逻辑（LTL）的格式。我们提出了一种将 LLMs 和基于优化的方法结合的方法，用于忠实地将人类解释和演示转化为 LTL 规范。通过几个案例研究，我们的实验证明了将解释与演示相结合在学习 LTL 规范方面的有效性。

Apr, 2024

对大型语言模型的解释技术进行分类和总结，并讨论了这些技术在训练范式、生成局部解释和全局解释方面的应用以及评估指标、调试模型和提高性能的挑战和机会。

Sep, 2023

可解释机器学习与大型语言模型相结合，评估解释方法并提出使用语言模型分析数据集和生成交互式解释的两个研究重点。

Jan, 2024