L'Istituto per l'Intelligenza Artificiale Etica e l'Apprendimento Automatico, con sede in Europa, è un centro di ricerca all'avanguardia. Si impegna a sviluppare strutture che sostengano lo sviluppo, l'implementazione e l'operatività responsabile dei sistemi di machine learning. È composto da team di volontari interfunzionali, tra cui leader nel settore tecnologico, dell'apprendimento automatico, dell'industria, della politica e dell'accademia (STEM, Scienze Umane e Sociali).
L'obiettivo dell'istituto è promuovere lo sviluppo responsabile dell'IA. Effettua ricerche altamente tecniche, pratiche e interdisciplinari in base agli 8 principi di apprendimento automatico. Collabora con l'industria, il mondo accademico e i governi per sviluppare framework e librerie in linea con le 4 fasi verso un'IA responsabile.
I 8 principi di apprendimento automatico sono un insieme di linee guida pratiche elaborate dagli esperti del settore. Il loro scopo è fornire indicazioni ai tecnici per lo sviluppo di sistemi di apprendimento automatico in modo responsabile. Tra questi principi troviamo l'aumento umano, con l'impegno di valutare l'impatto delle previsioni errate e, quando ragionevole, progettare sistemi con processi di revisione umana in loop; la valutazione del bias, con l'impegno di sviluppare processi continui per comprendere, documentare e monitorare il bias in fase di sviluppo e produzione; l'esplicabilità attraverso la giustificazione, con l'impegno di sviluppare strumenti e processi per migliorare la trasparenza e l'esplicabilità dei sistemi di machine learning; la riproducibilità delle operazioni, con l'impegno di sviluppare l'infrastruttura necessaria per raggiungere un livello ragionevole di riproducibilità nelle operazioni dei sistemi ML; la strategia di sostituzione, con l'impegno di identificare e documentare le informazioni rilevanti per sviluppare processi di cambiamento aziendale in modo da mitigare l'impatto sull'automazione dei lavoratori; l'accuratezza pratica, con l'impegno di sviluppare processi per garantire che le funzioni di accuratezza e costo siano allineate alle applicazioni specifiche del dominio; la fiducia attraverso la privacy, con l'impegno di costruire e comunicare processi per proteggere e gestire i dati con gli stakeholder che potrebbero interagire direttamente o indirettamente con il sistema; i rischi di sicurezza, con l'impegno di sviluppare e migliorare processi e infrastrutture ragionevoli per garantire che la sicurezza dei dati e dei modelli sia presa in considerazione durante lo sviluppo dei sistemi di machine learning.
L'istituto ha anche sviluppato il Framework di Procurement AI-RFX, un insieme di modelli per potenziare i professionisti dell'industria e migliorare la sicurezza, la qualità e le prestazioni dell'IA. Questo framework è open source e converte i Principi per l'Apprendimento Automatico Responsabile in un elenco di controllo.
Infine, l'Ethical ML Network (BETA) è una rete globale di ingegneri, scienziati, manager, leader e pensatori che si allineano sui 8 principi per lo sviluppo responsabile dell'apprendimento automatico e sostengono le 4 fasi verso lo sviluppo responsabile dell'IA. Questa rete è in fase BETA e chiunque sia interessato può presentare una richiesta di adesione.
