Центр человеко-совместимого ИИ

Центр человеко-совместимого ИИ (CHAI) разрабатывает исключительный ИИ для человечества. Наша миссия заключается в том, чтобы развивать концептуальные и технические возможности, которые помогут переориентировать общий вектор исследований в области ИИ на системы, которые можно доказательно считать полезными.

Основные моменты

Искусственный интеллект и выборы

Забудьте о глубоких подделках. Текст и голос — это настоящая угроза ИИ на этих выборах. Джонатан Стрэй, старший научный сотрудник CHAI, и Джессика Альтер, технологический предприниматель и соучредитель Tech for Campaigns, написали статью для The Hill о рисках, связанных с ИИ в текущем избирательном цикле.

Совпадение ИИ с изменяющимися и поддающимися влиянию функциями вознаграждения

Исследователи CHAI, Мика Карролл, Дэвис Фут, Ананд Ситтаранджан, Стюарт Рассел и Анка Драган, написали статью «Совпадение ИИ с изменяющимися и поддающимися влиянию функциями вознаграждения», которая была принята на ICML.

Смягчение частичной наблюдаемости в процессах принятия решений

Эта статья исследует основные концепции, связанные с обнаружением и смягчением частичной наблюдаемости, измеряя несоответствие между оценками функций ценности. Статья была представлена на семинаре «Нахождение рамки» на RLC 2024 и на семинаре «Основы обучения с подкреплением и управления» на ICML 2024.

Социальный выбор должен направлять согласование ИИ в работе с разнообразной человеческой обратной связью

Рэйчел Фидман, аспирантка CHAI, и Уэс Холидей, аффилированный сотрудник CHAI, опубликовали статью на Международной конференции по машинному обучению.

Подписка на новости

Если вы хотите получать наши новости и обновления, пожалуйста, подпишитесь на нашу рассылку.

© UC Berkeley Center for Human-Compatible AI. Дизайн: HTML5 UP