Fairlearn

Fairlearn ist ein wichtiges Open-Source-Projekt, das sich der Verbesserung der Fairness von KI-Systemen verschrieben hat. Dieses Projekt bietet Datenwissenschaftlern die Möglichkeit, die Fairness in ihren Systemen zu überprüfen und zu verbessern. Mit Hilfe des Python-Toolkits können Fairness-Probleme erkannt und gemindert werden. Die Bedeutung der Fairness von KI-Systemen geht über die einfache Ausführung von Codezeilen hinaus. In jedem Anwendungsfall spielen sowohl soziale als auch technische Aspekte eine Rolle, die bestimmen, wer durch KI-Systeme möglicherweise geschädigt wird und wie. Es gibt viele komplexe Quellen für Ungerechtigkeit und eine Vielzahl von sozialen und technischen Prozessen zur Milderung, nicht nur die Milderungsalgorithmen in der Bibliothek. Auf dieser Website finden Sie Ressourcen, wie man Fairness als soziotechnisches Phänomen betrachtet und wie man die Metriken und Algorithmen von Fairlearn unter Berücksichtigung des breiteren gesellschaftlichen Kontexts des KI-Systems einsetzt. Ein Beispiel ist die Bewertung und Milderung von Fairness-Problemen in Kreditkarten-Default-Modellen. Bei der Entscheidung, einen Kreditantrag zu genehmigen oder abzulehnen, verwenden Finanzdienstleistungsunternehmen verschiedene Modelle, darunter eines, das die Wahrscheinlichkeit des Antragstellers, in Verzug zu geraten, prognostiziert. Diese Vorhersagen werden manchmal verwendet, um einen Antrag automatisch zu akzeptieren oder abzulehnen, was sowohl den Antragsteller als auch die Organisation direkt beeinflusst. In diesem Szenario können Fairness-bedingte Schäden auftreten, wenn das Modell für einige Gruppen von Antragstellern mehr Fehler macht als für andere. Mit Fairlearn können wir untersuchen, wie verschiedene Gruppen, definiert nach ihrem Geschlecht, betroffen sind und wie die beobachteten Ungleichheiten gemindert werden können. Um mit Fairlearn zu beginnen, installieren Sie das Fairlearn-Paket. Aber der Prozess endet nicht damit! Sehen Sie sich unseren Benutzerführer und andere Ressourcen an, um zu verstehen, was Fairness für Ihren Anwendungsfall bedeutet. Falls Sie auf Probleme stoßen, können Sie sich auf Discord melden. Fairlearn kann mit pip von PyPI wie folgt installiert werden: pip install fairlearn. Zudem gibt es eine Reihe von Ressourcen, wie die API-Dokumentation mit Beispielen, den Benutzerführer, in dem mehr über Fairness in KI, Fairness-Metriken und Milderungsalgorithmen erfahren werden kann, und den Beitragsführer, der erklärt, wie man mit Fallstudien, Dokumentation oder Code zum Projekt beitragen kann. Die Fairlearn-Community besteht aus Open-Source-Beitragenden, Datenwissenschaftspraktikern und verantwortungsbewussten KI-Enthusiasten aus vielen Disziplinen und Orten. Sie können sich der neuesten Diskussion anschließen, Fragen zur Nutzung stellen, sich über die neuesten Updates informieren und herausfinden, wie Sie sich engagieren können. Dies kann über Discord, StackOverflow, GitHub oder Twitter geschehen. Fairlearn wird von Open-Source-Beitragenden mit verschiedenen Hintergründen und Fachkenntnissen aufgebaut und gepflegt. Treten Sie der Bemühung bei und tragen Sie Feedback, Metriken, Algorithmen, Visualisierungen, Ideen und mehr bei, damit wir das Toolkit gemeinsam weiterentwickeln können!