4 जून (रायटर्स) – एंथ्रोपिक ने गुरुवार को कहा कि यदि उन्नत प्रणालियां समाज द्वारा जोखिमों का प्रबंधन करने की तुलना में तेजी से सुधार करना शुरू कर देती हैं, तो फ्रंटियर एआई डेवलपर्स को विकास को धीमा करने या अस्थायी रूप से रोकने के लिए एक समन्वित, सत्यापन योग्य तरीका स्थापित करना चाहिए।
एआई जो खुद का निर्माण कर सकता है वह प्रौद्योगिकी के इतिहास में एक बड़ा विकास होगा, लेकिन एआई स्टार्टअप ने कहा, “पूर्ण पुनरावर्ती आत्म-सुधार से मनुष्यों के एआई सिस्टम पर नियंत्रण खोने का खतरा भी बढ़ सकता है।”
“यदि सिस्टम पूरी तरह से अपने स्वयं के उत्तराधिकारियों का निर्माण करने में सक्षम हैं, तो जिस तरह से हम उन्हें सुरक्षित करते हैं, उनकी निगरानी करते हैं और उनके व्यवहार को आकार देते हैं, वे सभी अधिक महत्वपूर्ण हो जाते हैं।”
उदाहरण के तौर पर, एंथ्रोपिक ने कहा कि मई तक, उसके कोडबेस में विलय किए गए 80% से अधिक कोड क्लाउड द्वारा लिखे गए थे।
कंपनी ने कहा, “यह दुनिया के लिए अच्छा होगा कि प्रौद्योगिकी की प्रगति के साथ सामाजिक संरचनाओं और संरेखण अनुसंधान को सक्षम करने के लिए फ्रंटियर एआई विकास को धीमा या अस्थायी रूप से रोकने का विकल्प हो।”
हालाँकि, इसने आगाह किया कि यदि कम सतर्क अभिनेता आगे बढ़ना जारी रखते हैं, तो एकतरफा या खराब समन्वित मंदी का प्रतिकूल प्रभाव पड़ सकता है, जिससे संभावित रूप से समग्र सुरक्षा कम हो सकती है।
इसमें इस बात पर प्रकाश डाला गया कि एक सार्थक विराम के लिए तकनीकी सीमा पर काम करने वाली “कई अच्छी तरह से संसाधन वाली प्रयोगशालाओं” के बीच समझौते की आवश्यकता होगी, साथ ही इस बात पर भी नियम होंगे कि कौन सी स्थितियाँ इस तरह के विराम को ट्रिगर या हटाएंगी और कौन इसकी देखरेख करेगा।
एंथ्रोपिक ने कहा, किसी एक कंपनी द्वारा एकतरफा रोक को लागू करना आसान होगा, लेकिन इसका सीमित प्रभाव होगा, मुख्य रूप से व्यापक वैश्विक विचार-विमर्श को बढ़ावा देने के बजाय नेतृत्व में बदलाव होगा।
इसकी अनुसंधान शाखा, एंथ्रोपिक इंस्टीट्यूट, उन प्रणालियों का अध्ययन करने और निर्माण में मदद करने की योजना बना रही है जो मंदी का समर्थन करने के लिए आवश्यक होंगी।
आने वाले महीनों में, एंथ्रोपिक ने प्रमुख प्रश्नों की जांच के लिए नीति निर्माताओं, शोधकर्ताओं, नागरिक समाज समूहों और अन्य एआई फर्मों को शामिल करते हुए चर्चा बुलाने की योजना बनाई है।
इन प्रश्नों में एआई से संबंधित जोखिमों जैसे पुनरावर्ती आत्म-सुधार और समन्वय के लिए तंत्र को कैसे बेहतर बनाया जाए, इसका प्रबंधन कैसे किया जाए, शामिल है।
पिछले महीने, एंथ्रोपिक ने एक धन उगाहने वाले दौर का समापन किया, जिसमें कंपनी का मूल्य $965 बिलियन था और सोमवार को गोपनीय रूप से अमेरिकी आरंभिक सार्वजनिक पेशकश के लिए दायर किया गया था। (मेक्सिको सिटी में जुबी बाबू द्वारा रिपोर्टिंग; श्रेया बिस्वास द्वारा संपादन)
