Fairlearn

Fairlearn 是一个具有重要意义的开源项目，旨在助力数据科学家提升 AI 系统的公平性。通过这个项目，人们可以从指南和实际用例中深入了解 AI 公平性。该项目提供了 Python 工具包，用于评估和缓解公平性问题。AI 系统的公平性不仅仅是运行代码那么简单，它涉及到社会和技术两个方面。在每个用例中，社会和技术因素共同决定了谁可能会受到 AI 系统的伤害以及如何受到伤害。这里存在许多复杂的不公平来源，以及各种社会和技术流程来进行缓解，而不仅仅是我们库中的缓解算法。在这个网站上，您可以找到有关如何将公平性视为社会技术问题的资源，以及如何在考虑 AI 系统更广泛的社会背景的同时使用 Fairlearn 的指标和算法。例如，在信用卡贷款的场景中，当金融服务机构决定批准或拒绝贷款时，会使用多种模型，其中包括预测申请人违约概率的模型。这些预测有时会被用于自动拒绝或接受申请，这对申请人和机构都有直接影响。在这种情况下，如果模型对某些申请人群体的错误率高于其他群体，就可能会出现与公平性相关的危害。我们可以使用 Fairlearn 来评估不同群体（例如按性别定义的群体）受到的影响，并探讨如何缓解观察到的差异。要开始使用 Fairlearn，您需要安装 Fairlearn 包。但这只是一个开始！您还可以查看用户指南和其他资源，以了解公平性对您的用例意味着什么。如果您遇到任何问题，可以在 Discord 上寻求帮助。Fairlearn 可以通过 pip 从 PyPI 进行安装，命令如下：pip install fairlearn。此外，该项目还提供了丰富的资源，如用户指南，您可以从中了解更多关于 AI 中的公平性、公平性指标和缓解算法的信息；API 文档，其中包含了带有示例的库参考；贡献者指南，无论您的背景或专业知识如何，都有多种方式可以为项目做出贡献，例如提供案例研究、文档或代码。Fairlearn 社区由来自不同学科和地区的开源贡献者、数据科学从业者和负责任的 AI 爱好者组成。您可以加入最新的讨论，提出使用问题，了解最新的更新，并找到参与的方式。您可以通过 Discord 加入社区并提出使用问题，也可以在 StackOverflow 上提出使用问题，还可以在 GitHub 上贡献代码、文档、用例，提交错误报告和功能请求。在 Twitter 上关注 Fairlearn，以获取最新的更新。Fairlearn 由具有各种背景和专业知识的开源贡献者构建和维护，欢迎大家加入，共同推动这个工具包的发展！