公平性指标
fairness-indicators的Python项目详细描述
公平性指标
公平指标旨在支持团队与更广泛的Tensorflow工具箱合作,评估、改进和比较公平关注点的模型。在
目前,我们的许多产品都在内部积极使用该工具。我们很乐意与您合作,以了解公平性指标在哪里最有用,以及在哪里添加功能将是有价值的。请联系tfx@tensorflow.org。您可以提供反馈和功能请求here。在
关键环节
- Introductory Video
- Fairness Indicators Case Study
- Fairness Indicators Example Colab
- Pandas DataFrame to Fairness Indicators Case Study
- Fairness Indicators: Thinking about Fairness Evaluation
什么是公平指标?在
公平性指标可以方便地计算binary和多类分类器的常见公平性度量。在
许多现有的公平性评估工具在大规模的数据集和模型上都不能很好地工作。在谷歌,拥有能在数十亿用户系统上工作的工具对我们来说很重要。公平性指标将允许您在任何规模的用例中评估fairenss指标。在
特别是,公平性指标包括以下能力:
- 评估数据集的分布
- 评估模型性能,划分到定义的用户组
- 通过多个阈值的置信区间和评估,对您的结果充满信心
- 深入到各个层面,探索根本原因和改进机会
这个case study,连同videos和编程练习,演示了如何在您自己的产品上使用公平性指标来评估一段时间内的公平性问题。在
Installation
pip install fairness-indicators
pip包包括:
- Tensorflow Data Validation (TFDV)-分析数据集的分布
- Tensorflow Model Analysis (TFMA)-分析模型性能
- fairability Indicators—对TFMA的一个补充,它增加了公平性指标和跨片的简单性能比较
- The What If Tool(WIT)](https://github.com/PAIR-code/what-if-tool-一个交互式可视界面,旨在更好地探测模型
夜间套餐
公平指标还提供夜间套餐 https://pypi-nightly.tensorflow.org在谷歌云上。安装最新的 夜间套餐,请使用以下命令:
pip install -i https://pypi-nightly.tensorflow.org/simple fairness-indicators
这将为公平性的主要依赖项安装夜间包 TensorFlow数据验证(TFDV)、TensorFlow模型分析等指标 (TFMA)。在
如何使用公平指标?在
张量流模型
不使用现有的Tensorflow工具?别担心!在
Examples目录包含几个示例
- Fairness_Indicators_Example_Colab.ipynb概述了TensorFlow Model Analysis中的公平性指标,以及如何在实际数据集中使用它。本笔记本还介绍了TensorFlow Data Validation和What-If Tool,这两个工具用于分析带有公平性指标的张量流模型。在
- Fairness_Indicators_on_TF_Hub.ipynb演示了如何使用公平性指标来比较在不同的text embeddings上训练的模型。本笔记本使用来自TensorFlow库TensorFlow Hub的文本嵌入来发布、发现和重用模型组件。在
- Fairness_Indicators_TensorBoard_Plugin_Example_Colab.ipynb 演示如何在TensorBoard中可视化公平性指标。在
还有问题吗?在
{a29关于如何使用公平性的更多信息,请参阅a29。在
如果你在公平指数中发现了一个错误cators,请提交一份GitHub issue,尽可能多地提供支持信息。在
兼容版本
下表显示了 彼此兼容。这是由我们的测试框架决定的,但是 其他未经测试的组合也可以使用。在
fairness-indicators | tensorflow | tensorflow-data-validation | tensorflow-model-analysis |
---|---|---|---|
GitHub master | nightly (1.x/2.x) | 0.25.0 | 0.25.0 |
v0.25.0 | 1.15.2 / 2.3 | 0.25.0 | 0.25.0 |
v0.24.0 | 1.15.2 / 2.3 | 0.24.0 | 0.24.0 |
v0.23.0 | 1.15.2 / 2.3 | 0.23.0 | 0.23.0 |
- 项目
标签: