audit-AI: Detecção de Diferenças Demográficas em Modelos de Aprendizado de Máquina

Introdução

O audit-AI é uma biblioteca Python desenvolvida pela equipe de Ciência de Dados da pymetrics, projetada para medir e mitigar os efeitos de padrões discriminatórios em dados de treinamento e nas previsões feitas por algoritmos de aprendizado de máquina. Com o aumento da automação das decisões por meio da Inteligência Artificial, entender e identificar o grau de justiça ou viés de um algoritmo é um passo importante para garantir decisões mais equitativas.

Funcionalidades Principais

O audit-AI implementa algoritmos de aprendizado de máquina conscientes da justiça, permitindo que os usuários realizem testes de viés em modelos de classificação e regressão. Aqui estão algumas das técnicas de auditoria e teste de viés que a biblioteca oferece:

• Tarefas de Classificação: 4/5th, Fisher, z-test, fator Bayes, qui-quadrado.
• Tarefas de Regressão: ANOVA, 4/5th, Fisher, z-test, fator Bayes, qui-quadrado.

Como Funciona

O audit-AI utiliza dados de uma população conhecida e os passa pelo modelo em questão. As taxas de aprovação proporcionais dos grupos demográficos são comparadas para determinar se há diferenças significativas. O modelo é considerado justo se a razão de viés estiver dentro dos limites estabelecidos, como a regra dos 4/5ths, que exige que o grupo com menor taxa de aprovação esteja dentro de 4/5ths da taxa do grupo com maior aprovação.

Exemplo Prático

Considere um exemplo com 4.000 usuários, onde cada grupo demográfico (Asiáticos, Negros, Hispânicos/Latinos e Brancos) tem 1.000 usuários. Se as taxas de aprovação forem 250, 270, 240 e 260, respectivamente, a razão de viés seria 24/27 ou 0.889. Como essa razão é maior que 0.80, o modelo passaria no teste de significância prática.

Instalação

Para instalar a versão mais recente do audit-AI, você pode usar o pip:

pip install audit-AI

Certifique-se de que as bibliotecas scikit-learn, numpy e pandas estejam instaladas.

Exemplos de Uso

Aqui está um exemplo de como usar o audit-AI para verificar viés em um modelo:

from auditai.misc import bias_test_check
X = df.loc[:, features]
y_pred = clf.predict_proba(X)
bias_test_check(labels=df['gender'], results=y_pred, category='Gender')

Conclusão

O audit-AI é uma ferramenta poderosa para qualquer profissional de ciência de dados que busca garantir a justiça em seus modelos de aprendizado de máquina. Ao implementar testes de viés, você pode não apenas melhorar a equidade de suas decisões automatizadas, mas também contribuir para um futuro mais justo na aplicação da IA.

Chamada à Ação

Experimente o audit-AI hoje mesmo e ajude a promover a justiça em seus projetos de aprendizado de máquina! Para mais informações, acesse o .