The Institute for Ethical AI & Machine Learning

소개

유럽에 본사를 둔 The Institute for Ethical AI & Machine Learning는 기계 학습 시스템의 책임 있는 개발, 배포 및 운영을 지원하는 프레임워크를 개발하는 연구 센터입니다. 기술, 기계 학습, 산업, 정책 및 학계(자연과학, 인문학 및 사회과학)의 리더들이 포함된 다양한 자원봉사 팀으로 구성되어 있습니다.

책임 있는 AI 개발을 위한 약속

우리는 AI의 책임 있는 개발을 옹호하는 데 전념하고 있습니다. 우리는 8가지 기계 학습 원칙에 따라 고도로 기술적이고 실용적이며 교차 기능적인 연구를 수행하는 연구 센터입니다. 산업, 학계 및 정부와 협력하여 책임 있는 AI를 위한 4단계에 맞는 프레임워크와 라이브러리를 개발합니다.

책임 있는 AI 개발을 위한 4단계 전략

1. 원칙에 의한 권한 부여: 최선의 관행과 적용된 원칙을 통해 개인을 권한 부여합니다.
2. 프로세스에 의한 권한 부여: 실용적인 산업 프레임워크와 적용된 가이드를 통해 리더를 권한 부여합니다.
3. 기준에 의한 권한 부여: 산업 기준에 대한 기여를 통해 전체 산업을 권한 부여합니다.
4. 규제에 의한 권한 부여: 우리의 작업을 통해 전체 국가를 권한 부여합니다.

8가지 기계 학습 원칙

기계 학습 원칙은 도메인 전문가들이 만든 실용적인 프레임워크입니다. 이 원칙의 목적은 기술자들이 기계 학습 시스템을 책임감 있게 개발할 수 있도록 안내하는 것입니다. 아래는 요약된 8가지 원칙입니다:

1. 인간 증강: 잘못된 예측의 영향을 평가하고, 합리적일 경우 인간 검토 프로세스를 설계합니다.
2. 편향 평가: 개발 및 생산에서 편향을 이해하고 문서화하며 모니터링할 수 있는 프로세스를 지속적으로 개발합니다.
3. 정당화에 의한 설명 가능성: 기계 학습 시스템의 투명성과 설명 가능성을 지속적으로 개선하기 위한 도구와 프로세스를 개발합니다.
4. 재현 가능한 운영: ML 시스템의 운영 전반에 걸쳐 합리적인 수준의 재현성을 가능하게 하는 인프라를 개발합니다.
5. 대체 전략: 비즈니스 변화 프로세스를 개발하여 자동화로 인한 근로자에 대한 영향을 완화하기 위해 관련 정보를 식별하고 문서화합니다.
6. 실용적 정확성: 정확성과 비용 지표 기능이 도메인 특정 애플리케이션에 맞춰 정렬되도록 보장하는 프로세스를 개발합니다.
7. 프라이버시를 통한 신뢰: 시스템과 직접 또는 간접적으로 상호작용할 수 있는 이해관계자와 데이터를 보호하고 처리하는 프로세스를 구축하고 소통합니다.
8. 보안 위험: 기계 학습 시스템 개발 중 데이터 및 모델 보안이 고려되도록 합리적인 프로세스와 인프라를 개발하고 개선합니다.

AI-RFX 조달 프레임워크

AI-RFX는 산업 실무자가 AI 안전성, 품질 및 성능 기준을 높일 수 있도록 돕는 템플릿 세트입니다. 이 프레임워크는 오픈 소스이며, 책임 있는 기계 학습 원칙을 체크리스트로 변환합니다.

결론

The Institute for Ethical AI & Machine Learning는 데이터 거버넌스 및 기계 학습을 위한 산업 표준을 개발하기 위해 기술 리더, 정책 입안자 및 학자들을 모으는 유럽 기반의 싱크탱크입니다. 우리는 책임 있는 기계 학습 개발을 위한 8가지 원칙에 동의하는 다양한 엔지니어, 과학자 및 리더들로 구성된 글로벌 네트워크인 **Ethical ML Network (BETA)**에 참여할 수 있는 기회를 제공합니다.