Center for Human

Center for Human-Compatible AI skupia się na tworzeniu wyjątkowych sztucznych inteligencji dla dobra ludzkości. Jego misją jest rozwinięcie koncepcyjnych i technicznych narzędzi, aby zmienić ogólny kierunek badań nad AI w stronę systemów, które można udowodnić jako korzystne. Przykładem działań jest artykuł napisany przez Jonathan Stray, Senior Scientist w CHAI, i Jessicę Alter, przedsiębiorcę technologiczną i współzałożycielkę Tech for Campaigns, dla The Hill, dotyczący zagrożeń związanych z AI w obecnym cyklu wyborczym. Naukowcy z CHAI, tacy jak Micah Carroll, Davis Foote, Anand Siththaranjan, Stuart Russell i Anca Dragan, napisali pracę zatytułowaną „AI Alignment with Changing and Influenceable Reward Functions”, która została przyjęta na ICML. Ponadto, prowadzone są badania nad podstawowymi koncepcjami związanymi z wykrywaniem i łagodzeniem częściowej obserwowalności poprzez mierzenie niezgodności między oszacowaniami funkcji wartości, jak przedstawiono w pracy zaprezentowanej na warsztatach „Finding the Frame” na RLC 2024 oraz „Foundations of Reinforcement Learning and Control” na ICML 2024. Rachel Feedman, studentka doktorancka CHAI, i Wes Holliday, współpracownik CHAI, opublikowali pracę na International Conference on Machine Learning. Jeśli chcesz otrzymywać nasze biuletyny i aktualizacje, zasubskrybuj nasz newsletter.