pymetrics/audit

pymetrics/audit-ai는 판다스와 sklearn 기반의 파이썬 라이브러리로, 공정성 인지 기계 학습 알고리즘을 구현합니다. 이 도구는 사회적으로 민감한 의사결정 과정에 사용되는 기계 학습 알고리즘의 훈련 데이터와 예측에서 차별적인 패턴의 영향을 측정하고 완화하는 데 사용됩니다. 이 연구의 전반적인 목표는 기계 학습 알고리즘을 더욱 공정하게 만드는 합리적인 방법을 찾는 것입니다. 훈련 데이터 세트와 이를 기반으로 훈련된 기계 학습 알고리즘에서 잠재적인 편견을 식별하는 것은 차별 문제를 해결하는 데 충분하지 않지만, 점점 더 많은 결정이 인공 지능에 의해 자동화되는 세계에서 알고리즘이 얼마나 공정하거나 편향되어 있는지를 이해하고 식별하는 우리의 능력은 올바른 방향으로 나아가는 한 걸음입니다. 또한, 이 도구는 규제 준수와 실제 및 통계적 편향에 대한 검사를 제공합니다. 예를 들어, 다양한 인구 집단(예: 다양한 성별과 인종의 신용 정보)에서 데이터를 가져와 문제가 되는 모델을 통해 실행합니다. 가장 높은 합격률을 가진 인구 집단과 가장 낮은 합격률을 가진 인구 집단의 비율을 비교합니다. 이 비율은 편향 비율로 알려져 있습니다. audit-ai는 이를 통해 통계적 유의성(p <.05)과 실제적 유의성(차이가 실질적으로 중요한 정도)에 따라 그룹이 다른지 여부를 결정합니다. 이 라이브러리는 분류 작업과 회귀 작업을 위한 다양한 편향 테스트 및 알고리즘 감사 기술을 제공합니다. 설치는 GitHub에서 소스 코드를 가져오거나 pip를 사용하여 최신 버전을 설치할 수 있습니다. 사용 방법은 구현 제안 문서에서 확인할 수 있습니다.