Center for Human

Center for Human-Compatible AI đang xây dựng các hệ thống AI nổi bật cho nhân loại. Nhiệm vụ của CHAI là phát triển các khái niệm và kỹ thuật cần thiết để định hướng tổng thể của nghiên cứu AI hướng tới các hệ thống có thể chứng minh là có lợi. Ví dụ, Jonathan Stray, Nhà khoa học cấp cao tại CHAI, và Jessica Alter, doanh nhân công nghệ và đồng sáng lập của Tech for Campaigns, đã viết một bài báo cho The Hill về các rủi ro do AI gây ra trong chu kỳ bầu cử hiện tại. Các nhà nghiên cứu của CHAI như Micah Carroll, Davis Foote, Anand Siththaranjan, Stuart Russell và Anca Dragan đã viết bài báo “AI Alignment with Changing and Influenceable Reward Functions” được chấp nhận tại ICML. Bài báo này điều tra các khái niệm cơ bản liên quan đến việc phát hiện và giảm thiểu khả năng quan sát một phần bằng cách đo lường sự sai lệch giữa các ước tính hàm giá trị. Bài báo này được trình bày tại hội thảo “Finding the Frame” tại RLC 2024 và hội thảo “Foundations of Reinforcement Learning and Control” tại ICML 2024. Rachel Feedman, sinh viên tiến sĩ của CHAI, và Wes Holliday, thành viên liên kết của CHAI, đã xuất bản một bài báo tại Hội nghị Quốc tế về Học máy. Nếu bạn muốn nhận được bản tin và cập nhật của chúng tôi, vui lòng đăng ký.