Center for Human-Compatible AI 致力于为人类开发出卓越的人工智能。该中心的使命是发展概念和技术能力，将人工智能研究的总体方向重新定位为可证明有益的系统。
例如，Jonathan Stray（CHAI 的高级科学家）和 Jessica Alter（科技企业家，Tech for Campaigns 的联合创始人）为 The Hill 撰写了一篇专栏文章，探讨了在当前选举周期中人工智能所带来的风险，特别是文本和语音方面的威胁，而不仅仅是深度伪造视频。
CHAI 的研究人员 Micah Carroll、Davis Foote、Anand Siththaranjan、Stuart Russell 和 Anca Dragan 撰写的论文《AI Alignment with Changing and Influenceable Reward Functions》已被 ICML 接受。
此外，还有关于在决策过程中通过测量价值函数估计之间的不一致来检测和减轻部分可观测性的研究。相关论文在 RLC 2024 的“Finding the Frame”研讨会和 ICML 2024 的“Foundations of Reinforcement Learning and Control”研讨会上进行了展示。
Rachel Feedman（CHAI 的博士生）和 Wes Holliday（CHAI 的附属成员）在国际机器学习会议上发表了一篇关于社会选择应指导人工智能在处理多样化人类反馈时进行调整的论文。
如果您想接收我们的新闻通讯和更新，请订阅我们的邮件列表。
