audit-AI - это библиотека Python, основанная на pandas и sklearn, которая реализует алгоритмы машинного обучения, учитывающие справедливость. Она была разработана командой Data Science в pymetrics. Эта библиотека предназначена для измерения и смягчения эффектов дискриминационных паттернов в обучающих данных и предсказаниях, сделанных машинным обучением для социально-чувствительных процессов принятия решений. Главная цель исследования - найти разумный способ думать о том, как сделать алгоритмы машинного обучения более справедливыми.
Библиотека позволяет проверять наличие потенциальной предвзятости в обучающих наборах данных и, следовательно, в алгоритмах машинного обучения, обученных на них. Например, она берет данные из известной популяции и пропускает их через исследуемую модель. Затем сравниваются пропорциональные коэффициенты прохода самой высоко проходящей демографической группы и самой низко проходящей группы для каждой демографической категории.
Библиотека реализует несколько техник тестирования предвзятости и аудита алгоритмов для задач классификации и регрессии. Также она предлагает инструменты для проверки различий во времени или в разных регионах.
Исходный код доступен на GitHub, и вы можете установить последнюю версию с помощью pip. Кроме того, для установки потребуется установить scikit-learn, numpy и pandas.
В библиотеке есть примеры использования пакета и возможность получить графики различных тестов на разных порогах.
