SHAP是一种博弈论方法，可用于解释任何机器学习模型的输出。它使用博弈论中的经典Shapley值及其相关扩展将最佳信用分配与本地解释联系起来。
LIME 是一种与模型无关的方法，它通过围绕特定预测在局部近似模型的行为来工作。LIME 试图解释机器学习模型在做什么。LIME 支持解释文本分类器、表格类数据或图像的分类器的个别预测。
ELI5是一个Python包，它可以帮助调试机器学习分类器并解释它们的预测。
Shapash提供了几种类型的可视化，可以更容易地理解模型。通过摘要来理解模型提出的决策。该项目由MAIF数据科学家开发。Shapash主要通过一组出色的可视化来解释模型。
Anchors使用称为锚点的高精度规则解释复杂模型的行为，代表局部的“充分”预测条件。该算法可以有效地计算任何具有高概率保证的黑盒模型的解释。
BreakDown是一种可以用来解释线性模型预测的工具。它的工作原理是将模型的输出分解为每个输入特征的贡献。这个包中有两个主要方法。Explainer()和Explanation()
Interpret-Text 结合了社区为 NLP 模型开发的可解释性技术和用于查看结果的可视化面板。可以在多个最先进的解释器上运行实验，并对它们进行比较分析。这个工具包可以在每个标签上全局或在每个文档本地解释机器学习模型。
AI Explainbability 360工具包是一个开源库，这个包是由IBM开发的，在他们的平台上广泛使用。AI Explainability 360包含一套全面的算法，涵盖了不同维度的解释以及代理解释性指标。
OmniXAI (Omni explable AI的缩写)，解决了在实践中解释机器学习模型产生的判断的几个问题。
XAI 库由 The Institute for Ethical AI & ML 维护，它是根据 Responsible Machine Learning 的 8 条原则开发的。它仍处于 alpha 阶段因此请不要将其用于生产工作流程。