प्रिंस हैरी और उनकी पत्नी मेघन प्रमुख कंप्यूटर वैज्ञानिकों, अर्थशास्त्रियों, कलाकारों, इंजील ईसाई नेताओं और अमेरिकी रूढ़िवादी टिप्पणीकारों स्टीव बैनन और ग्लेन बेक के साथ शामिल हो गए हैं, जिन्होंने मानवता के लिए खतरा पैदा करने वाले एआई “सुपरइंटेलिजेंस” पर प्रतिबंध लगाने की मांग की है।
राजनीतिक और भौगोलिक रूप से विविध सार्वजनिक हस्तियों के समूह द्वारा बुधवार को जारी किया गया पत्र, सीधे तौर पर Google, OpenAI और मेटा प्लेटफ़ॉर्म जैसे तकनीकी दिग्गजों के लिए लक्षित है, जो कई कार्यों में मनुष्यों से आगे निकलने के लिए डिज़ाइन की गई कृत्रिम बुद्धिमत्ता का एक रूप बनाने के लिए एक-दूसरे से प्रतिस्पर्धा कर रहे हैं।
30 शब्दों का कथन कहता है:
“हम सुपरइंटेलिजेंस के विकास पर प्रतिबंध का आह्वान करते हैं, जिसे व्यापक वैज्ञानिक सहमति होने से पहले नहीं हटाया जाएगा कि यह सुरक्षित और नियंत्रणीय रूप से किया जाएगा, और मजबूत सार्वजनिक खरीद-इन होगी।”
प्रस्तावना में, पत्र में कहा गया है कि एआई उपकरण स्वास्थ्य और समृद्धि ला सकते हैं, लेकिन उन उपकरणों के साथ-साथ, “कई प्रमुख एआई कंपनियों के पास आने वाले दशक में सुपरइंटेलिजेंस के निर्माण का घोषित लक्ष्य है जो अनिवार्य रूप से सभी संज्ञानात्मक कार्यों में सभी मनुष्यों से बेहतर प्रदर्शन कर सकता है। इसने मानव आर्थिक अप्रचलन और अशक्तता, स्वतंत्रता, नागरिक स्वतंत्रता, गरिमा और नियंत्रण की हानि से लेकर राष्ट्रीय सुरक्षा जोखिम और यहां तक कि संभावित मानव तक की चिंताएं बढ़ा दी हैं। विलुप्ति।”
प्रिंस हैरी ने एक व्यक्तिगत नोट में कहा कि “एआई का भविष्य मानवता की सेवा करना चाहिए, न कि इसे प्रतिस्थापित करना। मेरा मानना है कि प्रगति की सच्ची परीक्षा यह नहीं होगी कि हम कितनी तेजी से आगे बढ़ते हैं, बल्कि हम कितनी बुद्धिमानी से आगे बढ़ते हैं। कोई दूसरा मौका नहीं है।”
ड्यूक ऑफ ससेक्स के साथ उनकी पत्नी मेघन, डचेस ऑफ ससेक्स ने हस्ताक्षर किए।
एक अन्य हस्ताक्षरकर्ता स्टुअर्ट रसेल, एक एआई अग्रणी और कैलिफोर्निया विश्वविद्यालय, बर्कले में कंप्यूटर विज्ञान के प्रोफेसर ने लिखा, “यह सामान्य अर्थों में प्रतिबंध या रोक भी नहीं है।” “यह बस एक ऐसी तकनीक के लिए पर्याप्त सुरक्षा उपायों की आवश्यकता का प्रस्ताव है, जिसके डेवलपर्स के अनुसार, मानव विलुप्त होने का एक महत्वपूर्ण मौका है। क्या यह पूछने के लिए बहुत अधिक है?”
कंप्यूटर विज्ञान के शीर्ष पुरस्कार ट्यूरिंग अवार्ड के सह-विजेता, एआई अग्रणी योशुआ बेंगियो और जेफ्री हिंटन भी हस्ताक्षर कर रहे थे। हिंटन ने पिछले साल भौतिकी में नोबेल पुरस्कार भी जीता था। दोनों उस तकनीक के खतरों की ओर ध्यान दिलाने में मुखर रहे हैं, जिसे बनाने में उन्होंने मदद की थी।
लेकिन सूची में कुछ आश्चर्य भी हैं, जिनमें बेनन और बेक भी शामिल हैं, गैर-लाभकारी फ्यूचर ऑफ लाइफ इंस्टीट्यूट में पत्र के आयोजकों द्वारा राष्ट्रपति डोनाल्ड ट्रम्प के मेक अमेरिका ग्रेट अगेन आंदोलन के लिए अपील करने के प्रयास में, जबकि ट्रम्प के व्हाइट हाउस के कर्मचारियों ने अमेरिका में एआई विकास की सीमा को कम करने की मांग की है।
इसके अलावा सूची में Apple के सह-संस्थापक स्टीव वोज्नियाक भी हैं; ब्रिटिश अरबपति रिचर्ड ब्रैनसन; अमेरिकी ज्वाइंट चीफ्स ऑफ स्टाफ के पूर्व अध्यक्ष माइक मुलेन, जिन्होंने रिपब्लिकन और डेमोक्रेटिक प्रशासन के तहत काम किया; और लोकतांत्रिक विदेशी नीति विशेषज्ञ सुसान राइसजो राष्ट्रपति बराक ओबामा के राष्ट्रीय सुरक्षा सलाहकार थे।
पूर्व आयरिश राष्ट्रपति मैरी रॉबिन्सन और कई ब्रिटिश और यूरोपीय सांसदों ने हस्ताक्षर किए, जैसे अभिनेता स्टीफन फ्राई और जोसेफ गॉर्डन-लेविट, और संगीतकार विल.आई.एम, जिन्होंने अन्यथा किया है संगीत में एआई को अपनाया निर्माण।
“हां, हम विशिष्ट एआई उपकरण चाहते हैं जो बीमारियों को ठीक करने, राष्ट्रीय सुरक्षा को मजबूत करने आदि में मदद कर सकते हैं,” गॉर्डन-लेविट ने लिखा, जिनकी पत्नी ताशा मैककौली ने 2023 में सीईओ सैम अल्टमैन के अस्थायी निष्कासन के कारण हुई उथल-पुथल से पहले ओपनएआई के निदेशक मंडल में काम किया था। “लेकिन क्या एआई को इंसानों की नकल करने, हमारे बच्चों को तैयार करने, हम सभी को बेकार नशेड़ियों में बदलने और करोड़ों डॉलर कमाने की भी ज़रूरत है” विज्ञापन? ज़्यादातर लोग ऐसा नहीं चाहते।”
पत्र से एआई अनुसंधान समुदाय के बीच अलौकिक एआई की संभावना, उस तक पहुंचने के तकनीकी रास्ते और यह कितना खतरनाक हो सकता है, इस बारे में चल रही बहस भड़कने की संभावना है।
फ्यूचर ऑफ लाइफ इंस्टीट्यूट के अध्यक्ष और मैसाचुसेट्स इंस्टीट्यूट ऑफ टेक्नोलॉजी के प्रोफेसर मैक्स टेगमार्क ने कहा, “अतीत में, यह ज्यादातर नर्ड बनाम नर्ड रहा है।” “मुझे लगता है कि हम यहां वास्तव में जो देख रहे हैं वह यह है कि आलोचना कैसे मुख्यधारा में आ गई है।”
व्यापक बहस को उलझाने वाली बात यह है कि वही कंपनियाँ जो उस चीज़ की ओर प्रयास कर रही हैं जिसे कुछ लोग सुपरइंटेलिजेंस कहते हैं और अन्य लोग कृत्रिम सामान्य बुद्धिमत्ता या एजीआई कहते हैं, कभी-कभी अपने उत्पादों की क्षमताओं को भी बढ़ा रहे हैं, जो उन्हें अधिक विपणन योग्य बना सकते हैं और एआई बुलबुले के बारे में चिंताओं में योगदान दिया है। ओपनएआई को हाल ही में गणितज्ञों और एआई वैज्ञानिकों से उपहास का सामना करना पड़ा था जब इसके शोधकर्ता ने दावा किया था कि चैटजीपीटी ने अनसुलझी गणित समस्याओं का पता लगाया था – जबकि उसने वास्तव में जो किया वह पहले से ही ऑनलाइन मौजूद चीज़ों को ढूंढना और सारांशित करना था।
टेगमार्क ने कहा, “ऐसी बहुत सी चीजें हैं जो अतिरंजित हैं और आपको एक निवेशक के रूप में सावधान रहने की जरूरत है, लेकिन यह इस तथ्य को नहीं बदलता है कि पिछले चार वर्षों में एआई ज्यादातर लोगों की भविष्यवाणी की तुलना में बहुत तेज हो गया है।”
टेगमार्क का समूह मार्च 2023 के एक पत्र के पीछे भी था – जो अभी भी एक वाणिज्यिक एआई बूम के दौर में था – जिसने तकनीकी दिग्गजों से अधिक शक्तिशाली एआई मॉडल के विकास को अस्थायी रूप से रोकने का आह्वान किया था। किसी भी प्रमुख एआई कंपनी ने उस कॉल पर ध्यान नहीं दिया। और 2023 पत्र के सबसे प्रमुख हस्ताक्षरकर्ता, एलोन मस्क, उसी समय चुपचाप उन लोगों के साथ प्रतिस्पर्धा करने के लिए अपना खुद का एआई स्टार्टअप स्थापित कर रहे थे, जिन्हें वह 6 महीने का विराम देना चाहते थे।
यह पूछे जाने पर कि क्या वह इस बार फिर से मस्क के पास पहुंचे, टेगमार्क ने कहा कि उन्होंने अमेरिका में सभी प्रमुख एआई डेवलपर्स के सीईओ को लिखा था, लेकिन उनसे हस्ताक्षर करने की उम्मीद नहीं थी।
टेगमार्क ने कहा, “सच कहूं तो, मैं वास्तव में उनके प्रति सहानुभूति रखता हूं, क्योंकि वे इस दौड़ में इतने नीचे फंस गए हैं कि उन्हें आगे बढ़ते रहने और दूसरे व्यक्ति से आगे नहीं निकलने का एक अनूठा दबाव महसूस होता है।” “मुझे लगता है कि इसीलिए सुपरइंटेलिजेंस की दौड़ को कलंकित करना इतना महत्वपूर्ण है, उस बिंदु तक जहां अमेरिकी सरकार बस कदम बढ़ाती है।”
