Center for Human

Il Center for Human-Compatible AI sta facendo un lavoro pazzesco per costruire AI fuori dal comune per l'umanità. Il loro scopo è sviluppare le conoscenze e le tecniche necessarie per indirizzare la ricerca sull'IA verso sistemi che siano sicuramente vantaggiosi. Per esempio, Jonathan Stray, scienziato senior del CHAI, e Jessica Alter, imprenditrice tecnologica e co-fondatrice di Tech for Campaigns, hanno scritto un pezzo per The Hill sui rischi che l'IA pone in questo ciclo elettorale. Inoltre, i ricercatori del CHAI, Micah Carroll, Davis Foote, Anand Siththaranjan, Stuart Russell e Anca Dragan, hanno sfornato il paper 'AI Alignment with Changing and Influenceable Reward Functions', accettato all'ICML. Questo lavoro si occupa di come allineare l'IA con funzioni di ricompensa in evoluzione e influenzabili. Un'altra cosa interessante è l'indagine sui concetti fondamentali relativi alla individuazione e mitigazione della parziale osservabilità attraverso la misurazione dello scarto tra le stime della funzione di valore, presentato in due workshop. E poi, Rachel Feedman, dottoranda del CHAI, e Wes Holliday, affiliato del CHAI, hanno pubblicato un articolo alla Conferenza Internazionale sull'Apprendimento Automatico. Se volete ricevere le loro newsletter e gli aggiornamenti, potete iscrivervi alla mailing list. Tutte queste cose mostrano l'impegno del Center for Human-Compatible AI verso l'evoluzione dell'IA in modo utile per l'umanità.