चैटजीपीटी निर्माता ओपनएआई मंगलवार को कहा गया कि उसकी कृत्रिम बुद्धिमत्ता प्रणाली ने अपने आप ही एक अन्य एआई कंपनी को हैक कर लिया, जिसे कंपनी ने “अभूतपूर्व साइबर घटना” कहा।
ओपनएआई के सीईओ सैम ऑल्टमैन ने सोशल मीडिया पर पोस्ट किए गए एक बयान में कहा, “हमारे मॉडलों के मूल्यांकन के दौरान एक महत्वपूर्ण सुरक्षा घटना हुई।”
एआई स्टार्टअप हगिंग फेस ने पिछले हफ्ते कहा था कि उसने अपने डेटा प्रोसेसिंग सिस्टम में घुसपैठ का पता लगाया है और उसे संदेह है कि यह एआई एजेंट के स्वायत्त रूप से कार्य करने के कारण हुआ है।
हगिंग फेस के सह-संस्थापक और सीईओ क्लेमेंट डेलांग्यू ने एक बयान में कहा, “हमें संदेह है कि पिछले हफ्ते का साइबर हमला एजेंट की परिष्कार को देखते हुए एक फ्रंटियर लैब से आया होगा।” “पता चला कि ऐसा हो गया!”
यह खुलासा शक्तिशाली मॉडलों की साइबर सुरक्षा क्षमताओं के बारे में बढ़ती चिंताओं के बीच आया है, जिसके कारण राष्ट्रपति डोनाल्ड ट्रम्प ने जून में एक कार्यकारी आदेश पर हस्ताक्षर किए, जिसमें संघीय सरकार के लिए सबसे उन्नत राष्ट्रीय सुरक्षा जोखिमों की जांच करने के लिए एक रूपरेखा तैयार की गई। एआई सिस्टम उनकी सार्वजनिक रिलीज़ से एक महीने पहले तक।
ओपनएआई ने मंगलवार को अपने बयान में कहा, “एआई कमजोरियों की खोज और शोषण में तेजी ला रहा है।” “इस घटना से प्राथमिक सबक यह है कि मॉडल सुरक्षा और सुरक्षा को तेजी से आगे बढ़ने वाली क्षमताओं के साथ तालमेल रखना चाहिए।”
डेलांग्यू ने कहा कि उन्होंने ओपनएआई के साथ काम करते हुए पिछले 24 घंटे बिताए, “और हम दृढ़ता से मानते हैं कि उनकी ओर से कोई दुर्भावनापूर्ण इरादा नहीं था। यह काफी आश्चर्यजनक है कि यह सब स्वायत्त रूप से हुआ!”
डेलांग्यू ने कहा कि यह “अपनी तरह की पहली घटना हो सकती है।”
ओपनएआई ने कहा कि घुसपैठ उसके एआई मॉडल के संयोजन के कारण हुई, जिसमें उसका नया जारी जीपीटी‑5.6 सोल और एक “और भी अधिक सक्षम” मॉडल शामिल है जिसका अभी भी आंतरिक रूप से परीक्षण किया जा रहा है।
ओपनएआई ने कहा कि उसके एआई ने चोरी किए गए क्रेडेंशियल्स का इस्तेमाल किया और हगिंग फेस सर्वर तक पहुंचने के लिए पहले से अज्ञात भेद्यता की खोज की।
कंपनी ने कहा, “यह एक संकीर्ण परीक्षण लक्ष्य को प्राप्त करने के लिए अत्यधिक लंबाई तक चला गया” और “गुप्त जानकारी तक पहुंच प्राप्त करने के तरीके ढूंढे जिनका उपयोग यह मूल्यांकन को धोखा देने के लिए कर सकता था”।
