未提供项目说明
cxplain的Python项目详细描述
因果解释(CXPlain)是一种解释任何机器学习模型的决策的方法。CXPlain使用经过训练的解释模型来学习解释机器学习模型,并量化其解释的不确定性。这个资料库包含了神经解释模型的参考实现,以及不同数据模式的几个实际例子。有关CXPlain的描述和实验评估,请参见https://arxiv.org/abs/1910.12336(NeurIPS 2019)上的手稿。在
安装
要安装最新版本:
$ pip install cxplain
使用
CXPlain模型由四个主要组件组成:
- 所要解释的模型可以是任何类型的机器学习模型,包括黑箱模型,如神经网络和集成模型。在
- 定义解释模型结构的模型生成器,用于解释解释解释的模型。在
- 掩码操作,它定义了CXPlain如何在内部模拟从可用特性集中删除输入特性。在
- 损失函数,它定义了CXPlain如何度量由于删除输入特征而引起的预测精度的变化。在
配置完这四个组件之后,您可以将一个CXPlain实例与用于训练原始模型的训练数据相匹配。然后,CXPlain实例可以解释解释所解释模型的任何预测,即使该示例没有可用的标签。在
^{pr2}$示例
在examples/目录中,以Jupyter笔记本的形式提供了各种输入数据模式(包括图像、文本数据和表格数据)以及回归和分类任务的更多实用示例:
- Regression task on tabular data (Boston Housing)
- Classification task on image data (CIFAR10)
- Classification task on image data (MNIST)
- Classification task on textual data (IMDB)
- Saving and loading CXPlain instances
引用
如果您在工作中引用或使用我们的方法、代码或结果,请考虑引用:
@inproceedings{schwab2019cxplain,
title={{CXPlain: Causal Explanations for Model Interpretation under Uncertainty}},
author={Schwab, Patrick and Karlen, Walter},
booktitle={{Advances in Neural Information Processing Systems (NeurIPS)}},
year={2019}
}
许可证
致谢
这项工作的部分资金来源于瑞士国家科学基金会(SNSF)第167302号国家研究计划(NRP)75“大数据”项目。我们非常感谢英伟达公司对本研究所使用的Titan Xp GPU的支持。帕特里克·施瓦布是马克斯·普朗克ETH学习系统中心的附属博士研究生。在
- 项目
标签: