Fairlearn

Fairlearn es un proyecto de código abierto impulsado por la comunidad que tiene como objetivo ayudar a los científicos de datos a mejorar la equidad de los sistemas de IA. A través de guías y casos de uso, los usuarios pueden aprender sobre la equidad en la IA. Con su kit de herramientas en Python, se pueden evaluar y mitigar los problemas de equidad. El concepto de equidad en los sistemas de IA va más allá de la simple ejecución de líneas de código. En cada caso de uso, tanto los aspectos sociales como los técnicos influyen en quién puede verse perjudicado por los sistemas de IA y cómo. Existen muchas fuentes complejas de desigualdad y una variedad de procesos sociales y técnicos de mitigación, no solo los algoritmos de mitigación en su biblioteca. En todo el sitio web, se pueden encontrar recursos sobre cómo pensar en la equidad como un aspecto sociotécnico y cómo utilizar las métricas y algoritmos de Fairlearn teniendo en cuenta el contexto social más amplio del sistema de IA. Un caso de uso es el de los préstamos de tarjetas de crédito, donde se evalúan y mitigan los problemas de equidad en los modelos de incumplimiento de crédito. Cuando las organizaciones de servicios financieros toman la decisión de aprobar o rechazar un préstamo, utilizan una variedad de modelos, incluyendo uno que predice la probabilidad de incumplimiento del solicitante. Estas predicciones a veces se utilizan para rechazar o aceptar automáticamente una solicitud, lo que afecta tanto al solicitante como a la organización. En este escenario, pueden surgir daños relacionados con la equidad cuando el modelo comete más errores para algunos grupos de solicitantes en comparación con otros. Con Fairlearn, se puede evaluar cómo se ven afectados diferentes grupos definidos en términos de su sexo y cómo se pueden mitigar las disparidades observadas. Para empezar a utilizar Fairlearn, se debe instalar el paquete. Pero el proceso no termina ahí. Hay que consultar la guía de usuario y otros recursos para comprender lo que significa la equidad en el caso de uso específico. Si se encuentran problemas, se puede comunicar a través de Discord. Fairlearn se puede instalar con pip desde PyPI de la siguiente manera: pip install fairlearn. Además, hay una guía de inicio rápido y recursos disponibles, como la Guía del Usuario para aprender más sobre la equidad en la IA, las métricas de equidad y los algoritmos de mitigación. La Documentación de la API proporciona una referencia de la biblioteca con ejemplos. La Guía del Colaborador explica cómo ayudar con estudios de casos, documentación o código. Hay muchas formas de contribuir, independientemente del fondo o la experiencia. La comunidad de Fairlearn está formada por colaboradores de código abierto, profesionales de la ciencia de datos y entusiastas de la IA responsable de diversas disciplinas y ubicaciones. Se puede unir a la conversación más reciente, hacer preguntas de uso, conocer las actualizaciones más recientes y descubrir cómo participar. Se puede unirse a través de Discord, StackOverflow, GitHub o Twitter.