Center for Human-Compatible AI
Center for Human-Compatible AI (CHAI) का मकसद है ऐसे शानदार AI टेक्नोलॉजीज बनाना जो मानवता के लिए फायदेमंद हों। CHAI का मिशन है AI रिसर्च को ऐसे सिस्टम्स की ओर मोड़ना जो सच में फायदेमंद हों और इसके साथ ही एथिकल मुद्दों को भी ध्यान में रखना।
खास बातें
चुनावों में AI के खतरों का सामना
हाल ही में The Hill के लिए एक ओपिनियन पीस में, CHAI के सीनियर साइंटिस्ट जोनाथन स्ट्रे और टेक एंटरप्रेन्योर जेसिका ऑल्टर ने चुनावी साइकिल में AI द्वारा उत्पन्न असली खतरों पर चर्चा की। उन्होंने बताया कि डीपफेक वीडियो की बजाय टेक्स्ट और वॉइस पर ध्यान देना कितना जरूरी है।
AI एलाइन्मेंट पर रिसर्च
CHAI के रिसर्चर्स, जैसे कि मिकाह कैरोल और स्टुअर्ट रसेल ने "AI Alignment with Changing and Influenceable Reward Functions" नामक एक महत्वपूर्ण पेपर लिखा, जिसे ICML में स्वीकार किया गया। यह रिसर्च इस बात पर फोकस करती है कि कैसे AI सिस्टम्स को मानव मूल्यों के साथ जोड़ा जा सकता है, भले ही वे मूल्यों में बदलाव आए।
आंशिक अवलोकन को कम करना
एक और महत्वपूर्ण पेपर, जो RLC 2024 वर्कशॉप में प्रस्तुत किया गया, यह बताता है कि कैसे आंशिक अवलोकन का पता लगाया जाए और उसे कम किया जाए। यह रिसर्च उन AI सिस्टम्स के विकास के लिए जरूरी है जो असली दुनिया में प्रभावी ढंग से काम कर सकें।
सामाजिक चुनाव और AI एलाइन्मेंट
रेचल फीडमैन, एक CHAI पीएचडी स्टूडेंट, और वेस हॉलिडे ने इंटरनेशनल कॉन्फ्रेंस ऑन मशीन लर्निंग में एक पेपर प्रकाशित किया, जिसमें कहा गया कि सामाजिक चुनाव सिद्धांत को AI एलाइन्मेंट प्रयासों में मार्गदर्शन करना चाहिए, खासकर विविध मानव फीडबैक के मामले में।
अपडेट्स के लिए सब्सक्राइब करें
CHAI के लेटेस्ट रिसर्च और डेवलपमेंट्स के बारे में जानने के लिए, हमारी मेलिंग लिस्ट में सब्सक्राइब करें और न्यूज़लेटर्स और अपडेट्स पाएं।
© UC Berkeley Center for Human-Compatible AI. Design: HTML5 UP
