अग्रणी एआई सुरक्षा विशेषज्ञ डेविड डेलरिम्पल ने चेतावनी दी है कि अत्याधुनिक एआई सिस्टम से उत्पन्न सुरक्षा जोखिमों के लिए तैयारी करने के लिए दुनिया के पास “समय नहीं हो सकता”। डेलरिम्पल, जो यूके सरकार की एडवांस्ड रिसर्च एंड इन्वेंशन एजेंसी (एआरआईए) में प्रोग्राम डायरेक्टर और एआई सुरक्षा विशेषज्ञ के रूप में काम करते हैं, ने द गार्जियन को बताया कि एआई का विकास “वास्तव में तेजी से” हो रहा है और यह नहीं माना जा सकता है कि ये “सिस्टम विश्वसनीय हैं”।
उन्होंने प्रकाशन को बताया, “मुझे लगता है कि हमें उन प्रणालियों के बारे में चिंतित होना चाहिए जो वे सभी कार्य कर सकती हैं जो मनुष्य दुनिया में काम करने के लिए करते हैं, लेकिन बेहतर तरीके से।”
डेलरिम्पल ने कहा, “अपनी सभ्यता, समाज और ग्रह पर नियंत्रण बनाए रखने के लिए हमें उन सभी क्षेत्रों में मात देनी होगी जिनमें हमें प्रभावी होने की आवश्यकता है।”
उन्होंने एआई की सुरक्षा से आगे बढ़ने के परिणामों को “सुरक्षा और अर्थव्यवस्था की अस्थिरता” के रूप में वर्णित किया। शोधकर्ता ने इस बात पर प्रकाश डाला कि उन्नत एआई सिस्टम के व्यवहार को समझने और नियंत्रित करने पर अधिक तकनीकी कार्य की आवश्यकता है।
डेलरिम्पल ने कहा, “मैं सलाह दूंगा कि चीजें वास्तव में तेजी से आगे बढ़ रही हैं और सुरक्षा के दृष्टिकोण से हमारे पास इससे आगे निकलने का समय नहीं हो सकता है।” “और यह प्रोजेक्ट करना कोई विज्ञान कथा नहीं है कि पांच वर्षों के भीतर अधिकांश आर्थिक रूप से मूल्यवान कार्य मनुष्यों की तुलना में उच्च स्तर की गुणवत्ता और कम लागत वाली मशीनों द्वारा किए जाएंगे।”
डेलरिम्पल कहते हैं, मनुष्य इस परिवर्तन में नींद में चल रहा है:
ARIA सार्वजनिक रूप से वित्त पोषित है लेकिन कथित तौर पर सरकार से स्वतंत्र है। डेलरिम्पल ऐसे सिस्टम विकसित करने पर काम करता है जो ऊर्जा नेटवर्क जैसे महत्वपूर्ण बुनियादी ढांचे में एआई के उपयोग को सुरक्षित रख सके। उन्होंने प्रकाशन को बताया कि सरकारों को यह नहीं मानना चाहिए कि उन्नत एआई सिस्टम विश्वसनीय हैं।
डेलरिम्पल ने कहा, “हम यह नहीं मान सकते कि ये प्रणालियां विश्वसनीय हैं। आर्थिक दबाव को देखते हुए ऐसा करने का विज्ञान समय पर साकार होने की संभावना नहीं है। इसलिए अगली सबसे अच्छी चीज जो हम कर सकते हैं, जो हम समय पर करने में सक्षम हो सकते हैं, वह है नकारात्मक पहलुओं को नियंत्रित करना और कम करना।”
उन्होंने यह भी सुझाव दिया कि मानव सभ्यता एआई के साथ हो रहे इस “उच्च जोखिम” संक्रमण में सो रही है।
“प्रगति को अस्थिर करने वाला माना जा सकता है और यह वास्तव में अच्छा हो सकता है, जिसकी सीमा पर बहुत से लोग उम्मीद कर रहे हैं। मैं चीजों को बेहतर बनाने की कोशिश करने के लिए काम कर रहा हूं, लेकिन यह बहुत बड़ा जोखिम है और मानव सभ्यता पूरी तरह से इस संक्रमण में सो रही है,” उन्होंने कहा।
डेलरिम्पल ने एक सख्त चेतावनी भी दी कि एआई सिस्टम 2026 के अंत तक अनुसंधान कार्य और विकास के पूरे दिन को स्वचालित करने में सक्षम होंगे। उनका कहना है कि इससे “क्षमताओं में और तेजी आएगी” क्योंकि प्रौद्योगिकी एआई विकास के गणित और कंप्यूटर विज्ञान तत्वों पर आत्म-सुधार करने में सक्षम होगी।
