监测和解释机器学习模型的算法
alibi的Python项目详细描述
Alibi是一个开源的python库,旨在检查和解释机器学习模型。最初对库的关注是基于实例的黑盒模型解释。
目标
- 提供黑盒ml模型解释算法的高质量参考实现
- 为可解释的ml方法定义一致的api
- 支持多个用例(例如表格、文本和图像数据分类、回归)
- 实现最新模型解释、概念漂移、算法偏差检测等ml 模型监测和解释方法
安装
不在场证明可以从PyPI:
安装pip install alibi
这将安装alibi
及其所有依赖项:
beautifulsoup4 numpy Pillow pandas requests scikit-learn spacy scikit-image tensorflow
要运行所有示例笔记本,您还可以运行pip install alibi[examples]
,这将
安装以下组件:
seaborn Keras
示例
Anchor method applied to the InceptionV3 model trained on ImageNet:
Prediction: Persian Cat | Anchor explanation |
---|---|
Contrastive Explanation method applied to a CNN trained on MNIST:
Prediction: 4 | Pertinent Negative: 9 | Pertinent Positive: 4 |
---|---|---|
Trust scores applied to a softmax classifier trained on MNIST: