Center for Human

Das Center for Human-Compatible AI hat sich zum Ziel gesetzt, herausragende KI für die Menschheit zu entwickeln. Ihr Auftrag ist es, die konzeptionellen und technischen Voraussetzungen zu schaffen, um die allgemeine Richtung der KI-Forschung hin zu nachweislich vorteilhaften Systemen zu lenken. Ein Beispiel für ihre Arbeit ist die Erforschung der Risiken, die KI in diesem Wahlzyklus darstellt. Jonathan Stray, Senior Scientist bei CHAI, und Jessica Alter, Tech-Unternehmerin und Mitbegründerin von Tech for Campaigns, haben einen Gastbeitrag für The Hill geschrieben, in dem sie auf diese Gefahren hinweisen. Zudem beschäftigen sich CHAI-Forscher wie Micah Carroll, Davis Foote, Anand Siththaranjan, Stuart Russell und Anca Dragan mit Themen wie der Ausrichtung von KI mit sich ändernden und beeinflussbaren Belohnungsfunktionen. Ihre Arbeit wurde bei der ICML akzeptiert. Ein weiterer Schwerpunkt ist die Untersuchung grundlegender Konzepte zur Erkennung und Milderung von partieller Beobachtbarkeit durch die Messung von Fehlausrichtungen zwischen Schätzungen der Wertfunktion. Dieses Papier wurde auf dem Workshop „Finding the Frame“ bei RLC 2024 und dem Workshop „Foundations of Reinforcement Learning and Control“ bei ICML 2024 vorgestellt. Auch die Frage, wie soziale Wahl die Ausrichtung von KI bei der Verarbeitung vielfältiger menschlicher Rückmeldungen leiten sollte, wird von Forschern wie Rachel Feedman, CHAI-PhD-Studentin, und Wes Holliday, CHAI-Affiliate, untersucht. Ihre Arbeit wurde auf der International Conference on Machine Learning präsentiert. Wenn Sie unseren Newsletter und Updates erhalten möchten, können Sie sich für unseren Mailing-List anmelden.