Fairlearn

Fairlearn는 데이터 과학자들이 AI 시스템의 공정성을 향상시키는 데 도움을 주는 오픈소스, 커뮤니티 주도적인 프로젝트입니다. 이 프로젝트를 통해 AI 공정성에 대해 배우고, Python 툴킷을 사용하여 공정성 문제를 평가하고 완화할 수 있습니다. AI 시스템의 공정성은 단순히 코드를 실행하는 것 이상의 문제입니다. 각 사용 사례에서 사회적 및 기술적 측면이 AI 시스템에 의해 어떤 사람이 피해를 입을 수 있는지 그리고 어떻게 할 수 있는지를 형성합니다. 공정성에 대한 불공정성의 많은 복잡한 원인과 다양한 사회적 및 기술적 완화 과정이 있으며, 우리 라이브러리의 완화 알고리즘만이 아닙니다. 이 웹사이트 전반에 걸쳐 공정성을 사회기술적으로 생각하는 방법과 AI 시스템의 더 넓은 사회적 맥락을 고려하면서 Fairlearn의 메트릭스와 알고리즘을 사용하는 방법에 대한 자원을 찾을 수 있습니다. 사용 사례인 신용카드 대출에서의 공정성 문제의 평가 및 완화에 관해서도 다루고 있습니다. 대출 승인 또는 거절을 결정할 때 금융 서비스 기관은 신청자의 기본 위험을 예측하는 모델을 포함한 다양한 모델을 사용합니다. 이러한 예측은 때때로 신청을 자동으로 거부하거나 수락하는 데 사용되며, 이는 신청자와 기관 모두에 직접적인 영향을 미칩니다. 이 시나리오에서 모델이 어떤 신청자 그룹에 대해 다른 그룹보다 더 많은 오류를 만들 때 공정성 관련 피해가 발생할 수 있습니다. 우리는 Fairlearn를 사용하여 성별로 정의된 다른 그룹이 어떻게 영향을 받는지 그리고 관찰된 격차가 어떻게 완화될 수 있는지를 평가합니다. Fairlearn 패키지를 설치하는 방법도 안내되어 있습니다. pip를 사용하여 PyPI에서 Fairlearn를 설치할 수 있습니다. 설치 후에는 사용자 가이드 및 기타 자원을 참조하여 사용 사례에 대한 공정성이 무엇인지 이해하는 것이 중요합니다. 문제가 발생하면 Discord를 통해 문의할 수 있습니다. 또한 API 문서, 기여자 가이드 등 다양한 자원이 제공되어 있습니다. 커뮤니티에는 다양한 분야와 지역의 오픈소스 기여자, 데이터 과학 실무자, 책임 있는 AI 애호가들이 있습니다. 최신 업데이트를 받고 참여 방법을 알아보세요. Twitter에서도 최신 정보를 받아볼 수 있습니다. Fairlearn는 다양한 배경과 전문 지식을 가진 오픈소스 기여자들에 의해 구축되고 유지됩니다. 피드백, 메트릭스, 알고리즘, 시각화, 아이디어 등을 기여하여 함께 툴킷을 발전시켜 나갑시다!