हगिंग फेस ने पिछले हफ्ते खुलासा किया था कि उसे ओपनएआई के कुछ एआई मॉडल से जुड़े सुरक्षा उल्लंघन का सामना करना पड़ा था। हगिंग फेस के सीईओ क्लेमेंट डेलांगु बाद में उल्लंघन के बारे में ओपनएआई के अधिकारियों के साथ व्यक्तिगत बातचीत करने के लिए सैन फ्रांसिस्को के लिए एक उड़ान में सवार हुए।
डेलांग्यू ने अब खुलासा किया है कि चैटजीपीटी निर्माता के साथ बैठक के दौरान उन्होंने क्या चर्चा की।
एक्स पर एक पोस्ट में, डेलांगु ने कहा कि उन्होंने ओपनएआई से हालिया साइबर सुरक्षा घटना में शामिल “दुष्ट” एआई एजेंटों के निशान सार्वजनिक रूप से जारी करने के लिए कहा था ताकि दुनिया भर के शोधकर्ता अध्ययन कर सकें कि वास्तव में क्या हुआ था।
उन्होंने ओपनएआई से हगिंग फेस समुदाय को खुले और बंद दोनों एआई मॉडल का उपयोग करके मजबूत साइबर रक्षा उपकरण बनाने में मदद करने के लिए 100 मिलियन डॉलर की गणना करने का भी आग्रह किया।
“पारदर्शिता की भावना में, मैंने @OpenAI से यही पूछा,” डेलांगु ने लिखा।
उन्होंने कहा, “कट्टरपंथी पारदर्शिता: आइए ‘दुष्ट’ एजेंटों के निशान जारी करें ताकि पूरा शोध समुदाय अध्ययन कर सके कि क्या हुआ था।”
डेलांग्यू ने आगे कहा, “आइए हगिंग फेस समुदाय को सर्वोत्तम खुले और बंद मॉडल के साथ शक्तिशाली साइबर सुरक्षा बनाने में मदद करने के लिए ओएआई से 100 मिलियन डॉलर की गणना करें।”
हगिंग फेस के सीईओ ने “पहले स्वायत्त एजेंट साइबर हमले” को “अभूतपूर्व घटना” कहा, जो “अभूतपूर्व प्रतिक्रिया” की भी हकदार है।
सुरक्षा उल्लंघन क्यों हुआ?
पिछले हफ्ते, हगिंग फेस ने घोषणा की थी कि उसे एक ऐसी घुसपैठ का सामना करना पड़ा है जो उसने पहले कभी नहीं देखी थी, जिसे एक “स्वायत्त एआई एजेंट सिस्टम” द्वारा शुरू से अंत तक अंजाम दिया गया था। कंपनी ने कहा कि उसने अपने एआई सिस्टम का इस्तेमाल कर हमले का पता लगाया।
कुछ दिनों बाद, OpenAI ने खुलासा किया कि उसका GPT-5.6 Sol मॉडल और एक अप्रकाशित AI मॉडल इस घटना के पीछे थे क्योंकि उन्होंने एक्सप्लॉइटजिम बेंचमार्क को धोखा देने का प्रयास किया था, जो AI मॉडल की सॉफ़्टवेयर कमजोरियों को खोजने और उनका फायदा उठाने की क्षमता को मापता है।
मॉडलों ने ओपनएआई के सैंडबॉक्स वातावरण को बायपास करने और इंटरनेट तक पहुंच प्राप्त करने के लिए सबसे पहले शून्य-दिन की भेद्यता का उपयोग किया। तब उन्हें एहसास हुआ कि हगिंग फेस एक्सप्लॉइट जिम को धोखा देने के लिए आवश्यक संभावित मॉडल, डेटासेट और समाधान की मेजबानी कर सकता है।
ओपनएआई ने एक ब्लॉग पोस्ट में लिखा, “यह जानते हुए, मॉडल ने गुप्त जानकारी तक पहुंच हासिल करने के तरीकों की खोज की और सफलतापूर्वक उनका मूल्यांकन किया, जिसका उपयोग वह मूल्यांकन को धोखा देने के लिए कर सकता था।”
एआई मॉडल ने सूचनाओं को बाहर निकालने के लिए चोरी की गई साख और शून्य-दिन की कमजोरियों का भी उपयोग किया, जो उन्हें बेंचमार्क पर बेहतर प्रदर्शन करने में मदद करेगी।
OpenAI ने एक सप्ताह तक AI एजेंट के दुष्ट होने पर ध्यान नहीं दिया
हाल ही में रॉयटर्स की एक रिपोर्ट के अनुसार, ओपनएआई को यह एहसास ही नहीं हुआ कि उसका एआई एजेंट हगिंग फेस में घुस गया है, जब तक कि खतरा काबू नहीं हो गया और एफबीआई को सतर्क नहीं कर दिया गया।
कथित तौर पर, हगिंग फेस में घुसपैठ 11 जुलाई से 13 जुलाई के बीच हुई थी। इस बीच, ओपनएआई को कई दिनों बाद एहसास हुआ कि हमले के पीछे उसका एजेंट था, और इस मामले पर हगिंग फेस के साथ उसका संचार कथित तौर पर 20 जुलाई या उसके आसपास ही शुरू हुआ था।
इसके सह-संस्थापक थॉमस वुल्फ के अनुसार, हगिंग फेस हैक की एक सार्वजनिक टाइमलाइन भी तैयार कर रहा है।
