‘एआई के गॉडफादर’ ने चेतावनी दी है कि ‘पुतिन या डेसेंटिस जैसे बुरे अभिनेता’ युद्ध जीतने या मतदाताओं को हेरफेर करने के लिए एआई का इस्तेमाल कर सकते हैं
“एआई के गॉडफादर” ने कहा कि वह इस बात को लेकर चिंतित हैं कि एमआईटी टेक्नोलॉजी रिव्यू के साथ एक साक्षात्कार में रूसी राष्ट्रपति व्लादिमीर पुतिन और फ्लोरिडा के गवर्नर रॉन डेसांटिस का नाम छोड़ने में लोग एआई टूल्स का उपयोग कैसे करेंगे।
जेफ्री हिंटन ने एमआईटी टेक रिव्यू को बताया, “देखिए, यहां एक तरीका है कि यह सब गलत हो सकता है।” “हम जानते हैं कि बहुत सारे लोग जो इन उपकरणों का उपयोग करना चाहते हैं, वे पुतिन या डेसांटिस जैसे बुरे अभिनेता हैं। वे उनका उपयोग युद्ध जीतने या मतदाताओं को प्रभावित करने के लिए करना चाहते हैं।”
हिंटन ने एमआईटी टेक रिव्यू को बताया कि उन्हें लगता है कि जनरेटिव एआई उपकरण जल्द ही अपने स्वयं के “सबगोल्स” बनाने में सक्षम होंगे, जिसका अर्थ है कि मशीनें यह पता लगाने में सक्षम होंगी कि बड़े निर्णय कैसे लिए जा सकते हैं जो संभावित रूप से बुरे के लिए इस्तेमाल किए जा सकते हैं।
“एक पल के लिए मत सोचो कि पुतिन यूक्रेनियन को मारने के लक्ष्य के साथ अति-बुद्धिमान रोबोट नहीं बनाएंगे,” हिंटन ने कहा। “वह संकोच नहीं करेगा। और यदि आप चाहते हैं कि वे इसमें अच्छे हों, तो आप उन्हें माइक्रोमैनेज नहीं करना चाहते – आप चाहते हैं कि वे यह पता लगाएं कि यह कैसे करना है।”
इनसाइडर द्वारा संपर्क किए जाने पर हिंटन ने आगे टिप्पणी करने से इनकार कर दिया। डिसेंटिस और पुतिन के प्रतिनिधियों ने प्रकाशन से पहले टिप्पणी के लिए इनसाइडर के अनुरोध का तुरंत जवाब नहीं दिया।
रूसी आउटलेट आरटी ने बताया कि पुतिन ने 2017 में छात्रों से बात करते हुए एआई के महत्व के बारे में बात करते हुए कहा कि “जो कोई भी इस क्षेत्र में अग्रणी बनेगा, वह दुनिया का शासक बनेगा।”
Google में एक दशक के बाद, हिंटन ने सोमवार को कंपनी छोड़ने की घोषणा की। उन्होंने द न्यूयॉर्क टाइम्स को बताया कि उन्हें एआई तकनीक के अग्रणी के रूप में अपनी भूमिका के लिए खेद है। टोरंटो विश्वविद्यालय में अपने दो स्नातक छात्रों के साथ हिंटन ने एआई विकास की नींव रखी।
“मैं खुद को सामान्य बहाने से सांत्वना देता हूं: अगर मैंने ऐसा नहीं किया होता, तो कोई और करता,” हिंटन ने टाइम्स को बताया।
हिंटन ने ट्विटर पर कहा कि उन्होंने Google को छोड़ दिया, कंपनी की आलोचना में नहीं, लेकिन इसलिए वह “एआई के खतरों के बारे में बात कर सकते हैं बिना इस पर विचार किए कि यह Google को कैसे प्रभावित करता है,” और कहा कि “Google ने बहुत जिम्मेदारी से काम किया है।”
टाइम्स के साथ अपने साक्षात्कार में हिंटन ने एआई के खतरों के बारे में अपनी चिंताओं को साझा किया।
हिंटन ने कहा, “यह देखना मुश्किल है कि आप बुरे अभिनेताओं को बुरी चीजों के लिए इसका इस्तेमाल करने से कैसे रोक सकते हैं।”
एलोन मस्क सहित अन्य एआई विशेषज्ञ, जिन्होंने 2015 में ChatGPT निर्माता OpenAI को कोफ़ाउंड किया था और वर्तमान में अपने स्वयं के प्रतिद्वंद्वी AI प्रोजेक्ट का निर्माण कर रहे हैं, ने मार्च में AI सिस्टम के प्रशिक्षण पर छह महीने के ठहराव के लिए एक खुला पत्र जारी किया जो OpenAI की नवीनतम रिलीज़ से अधिक शक्तिशाली होगा। , जीपीटी-4।
पत्र नोट करता है कि लेखक “सामान्य रूप से एआई विकास पर” विराम के लिए नहीं कह रहे हैं, लेकिन “खतरनाक दौड़ से हमेशा के लिए बड़े पैमाने पर अप्रत्याशित ब्लैक-बॉक्स मॉडल के साथ आकस्मिक क्षमताओं के साथ एक कदम पीछे हट रहे हैं।”
मार्च के एक साक्षात्कार में, OpenAI के सीईओ सैम ऑल्टमैन ने कहा कि वह और कंपनी “थोड़ा सा डरे हुए हैं” कि भविष्य में कृत्रिम बुद्धिमत्ता क्या कर सकती है।
“मुझे लगता है कि अगर मैंने कहा कि मैं नहीं था, तो आपको मुझ पर भरोसा नहीं करना चाहिए, या बहुत दुखी होना चाहिए कि मैं इस नौकरी में हूं,” उन्होंने एबीसी न्यूज को बताया।
हिंटन ने, अपने हिस्से के लिए, टाइम्स को बताया कि उन्हें लगता है कि तकनीकी दिग्गजों की एआई दौड़ को रोकने में बहुत देर हो सकती है, और प्रौद्योगिकी को नियंत्रित करने के लिए सावधानीपूर्वक सहयोग और चर्चा ही एकमात्र समाधान हो सकता है।
“मुझे नहीं लगता कि उन्हें इसे और अधिक बढ़ाना चाहिए जब तक कि वे समझ नहीं पाते कि क्या वे इसे नियंत्रित कर सकते हैं,” उन्होंने कहा।
