Center for Human-Compatible AIは、人類にとって卓越したAIを構築することを目指しています。CHAIのミッションは、AI研究の一般的な方向性を証明可能な有益なシステムに向けて再定義するための概念的および技術的な知識と能力を開発することです。
深偽造ビデオは忘れてください。今回の選挙では、テキストと音声が真のAIの脅威です。CHAIのシニアサイエンティストであるジョナサン・ストレイと、テック起業家でTech for Campaignsの共同創設者であるジェシカ・アルターは、The Hillに対して、今回の選挙サイクルにおけるAIがもたらすリスクに関するオピニオン記事を書きました。
また、CHAIの研究者であるミカ・キャロル、デイビス・フート、アナンド・シスタランジャン、スチュワート・ラッセル、アンカ・ドラガンは、「AI Alignment with Changing and Influenceable Reward Functions」という論文を書き、ICMLに受理されました。この論文は、変化するおよび影響可能な報酬関数とのAIの整合性について考察しています。
さらに、「Mitigating Partial Observability in Decision Processes via the Lambda Discrepancy」という論文は、意思決定プロセスにおける部分的な可観測性を検出および緩和するための基本的な概念を調査しています。この論文は、RLC 2024の「Finding the Frame」ワークショップとICML 2024の「Foundations of Reinforcement Learning and Control」ワークショップで発表されました。
また、CHAIの博士課程学生であるレイチェル・フィードマンとCHAIのアフィリエイトであるウェス・ホリデーは、国際機械学習会議で論文を発表しました。
もしニュースレターと最新情報を受け取りたい場合は、メーリングリストに登録してください。
© UC Berkeley Center for Human-Compatible AI. Design: HTML5 UP
