* परिचित दो लोगों का कहना है कि एजेंट ने पहली बार 9 जुलाई के आसपास ओपनएआई के अलग-थलग वातावरण से भागने की कोशिश की
* पीड़ित फर्म हगिंग फेस के सह-संस्थापक का कहना है कि घुसपैठ 11 जुलाई को शुरू हुई
* ओपनएआई ने हैक-स्रोतों से पहले अत्याधुनिक मॉडलों से अजीब व्यवहार देखा
राफेल सैटर, दीपा सीतारमन और केनरिक कै द्वारा
वाशिंगटन/सैन फ्रांसिस्को, 24 जुलाई (रायटर्स) – जांच से परिचित लोगों के अनुसार, टेक फर्म हगिंग फेस में सेंध लगाने वाले ओपनएआई एजेंट ने दिन भर हैकिंग का सिलसिला जारी रखा, जिसे ओपनएआई ने तब तक नोटिस नहीं किया जब तक कि खतरा काबू नहीं हो गया और एफबीआई को सतर्क कर दिया गया।
एजेंट – एक प्रोग्राम जो निर्णय लेने और जटिल कार्यों को बहुत कम या बिना किसी मानवीय निरीक्षण के निष्पादित करने में सक्षम है – दो लोगों के अनुसार, 9 जुलाई के आसपास ओपनएआई में अपने पृथक परीक्षण वातावरण से बाहर निकलने का प्रयास किया गया।
हगिंग फेस के सह-संस्थापक थॉमस वुल्फ ने कहा, हगिंग फेस में घुसपैठ, जो एआई टूल और मॉडल के लिए भंडार के रूप में काम करती है, दो दिन बाद 11 जुलाई को शुरू हुई और 13 जुलाई तक चली। वुल्फ और जांच से परिचित तीन लोगों के अनुसार, ओपनएआई को यह महसूस करने में कई दिन लग गए कि हैक के पीछे उसका एजेंट था, और दोनों कंपनियों ने इसके बारे में पहली बार 20 जुलाई या उसके आसपास संचार किया था। 21 जुलाई को ओपनएआई के सार्वजनिक खुलासे से पता चला कि उसका एक एजेंट नियंत्रण से बाहर हो गया था और उसने हगिंग फेस में सेंधमारी को अंजाम दिया था, जिसने वैश्विक ध्यान आकर्षित किया। लेकिन हैक के कई विवरण, जिसमें एजेंट कितने समय तक दुष्ट रहा और ओपनएआई को इसके बारे में देर से जानकारी शामिल है, पहली बार यहां रिपोर्ट किए जा रहे हैं।
हगिंग फेस हैक की एक सार्वजनिक टाइमलाइन तैयार कर रहा है, वुल्फ ने कहा, ओपनएआई में जो हुआ उसके बारे में वह बात नहीं कर सकते। एक बयान में, ओपनएआई ने कहा कि हैक अभूतपूर्व था और “एआई सुरक्षा के लिए एक महत्वपूर्ण क्षण है।” इसमें कहा गया है कि वह बाहरी सलाहकारों के साथ घटना की समीक्षा कर रहा है और अंततः एक तकनीकी रिपोर्ट प्रकाशित करेगा। एक प्रवक्ता ने कहा कि रॉयटर्स की रिपोर्टिंग में “कई गलतियाँ” थीं, लेकिन जब उनका वर्णन करने के लिए कहा गया तो उन्होंने कोई जवाब नहीं दिया।
एफबीआई ने घटना के बारे में टिप्पणी करने से इनकार कर दिया। यह घटना, जिसने मनुष्यों के खतरनाक एआई सिस्टम पर नियंत्रण खोने के बारे में विज्ञान कथा परिदृश्यों को जन्म दिया, चैटजीपीटी के पीछे की कंपनी ओपनएआई के लिए एक नाजुक समय पर आता है। इसके अधिकारी एक संभावित आरंभिक सार्वजनिक पेशकश की तैयारी कर रहे हैं जो आने वाले वर्षों में इसके विकास के लिए आवश्यक अरबों के वित्तपोषण में मदद करने के लिए इस वर्ष आ सकती है। तीन साइबर सुरक्षा विशेषज्ञों ने कहा कि ओपनएआई का अपने एआई एजेंट पर नियंत्रण खोना कंपनी की सुरक्षा प्रक्रियाओं के बारे में नए सवाल उठाता है। “क्या इसका मतलब यह है कि उन्होंने इसे लावारिस छोड़ दिया और यह महसूस नहीं किया कि यह क्या कर रहा है? या शायद उन्होंने ऐसा किया और नहीं जानते थे कि इसे कैसे नियंत्रित किया जाए? दोनों समान रूप से खतरनाक और चिंताजनक हैं,” गैर-लाभकारी वर्ल्ड एथिकल डेटा फाउंडेशन के प्रमुख खुफिया विशेषज्ञ मार्ले स्मिथ ने पूछा।
परेशानी के संकेत? एपिसोड की शुरुआत तब हुई जब OpenAI, OpenAI के दो सबसे उन्नत मॉडल, GPT-5.6 Sol और एक अप्रकाशित मॉडल, जिसे OpenAI ने “और भी अधिक सक्षम” बताया है, द्वारा संचालित एक एजेंट की साइबर सुरक्षा कौशल का परीक्षण कर रहा था। तीन स्रोतों के अनुसार, उस समय तक, OpenAI की तकनीक से अजीब व्यवहार के संकेत पहले से ही थे। मामले से परिचित तीन लोगों के अनुसार, एक मामले में, एक एजेंट ने स्पष्ट रूप से भविष्य के संस्करणों के लिए नोट्स छोड़े। लोगों ने कहा कि ओपनएआई के बुनियादी ढांचे के एक हिस्से में पाए गए नोट्स में यह निर्देश दिया गया है कि एजेंट ओपनएआई की आंतरिक बाधाओं से खुद को कैसे मुक्त कर सकते हैं। लोगों में से एक ने कहा कि मॉडलों के पहले परीक्षणों में ऐसे मामले सामने आए थे जिनमें निगरानी प्रणाली काट दी गई थी।
रॉयटर्स यह स्थापित नहीं कर सका कि क्या ये घटनाएं उस दुष्ट एजेंट से जुड़ी थीं जो 9 जुलाई को भागना शुरू कर दिया था और 11 जुलाई को हगिंग फेस पर हमला किया था। मामले से परिचित दो लोगों ने कहा कि यह गुरुवार, 16 जुलाई के बाद तक नहीं था, जब हगिंग फेस ने एक ब्लॉग पोस्ट प्रकाशित किया था जिसमें कहा गया था कि इसे “एक स्वायत्त एआई एजेंट सिस्टम” द्वारा हैक किया गया था, ओपनएआई को एहसास हुआ कि उसका अपना एजेंट जिम्मेदार था। इसका मतलब है कि जब मॉडल ने पहली बार परेशान करने वाले व्यवहार के लक्षण प्रदर्शित किए और ओपनएआई को यह एहसास हुआ कि वह हैक के लिए जिम्मेदार था, तब कम से कम एक सप्ताह का समय बीत गया।
कंपनी की जांच से परिचित दो लोगों ने कहा कि 18 से 19 जुलाई के सप्ताहांत में, ओपनएआई के कर्मचारियों ने आंतरिक लॉग में सुराग देखा – ओपनएआई के सिस्टम ने क्या किया, यह दर्शाता है कि इसका एजेंट अपने परीक्षण बाधाओं से बच गया था। रॉयटर्स यह स्थापित नहीं कर सका कि किस कारण से OpenAI को लॉग की जांच करने के लिए प्रेरित किया गया।
ओपनएआई के मॉडल-प्रशिक्षण प्रथाओं से परिचित चार लोगों का कहना है कि कंपनी अक्सर एक ही समय में कई अलग-अलग मॉडल मूल्यांकन चलाती है, जो सभी उच्च गति पर काम करते हैं और इतनी भारी मात्रा में डेटा उत्पन्न करते हैं कि कर्मचारियों को कभी-कभी बनाए रखने के लिए संघर्ष करना पड़ता है। मामले से परिचित एक व्यक्ति के अनुसार, जब तक ओपनएआई ने हगिंग फेस को सचेत किया, तब तक एआई लाइब्रेरी ने हैक की रिपोर्ट करने के लिए एफबीआई को पहले ही बुला लिया था। रॉयटर्स यह स्थापित नहीं कर सका कि ब्यूरो ने कोई जांच शुरू की थी या नहीं।
स्वायत्त एजेंटों के बारे में नए प्रश्न
स्वायत्त एजेंट एआई उद्योग के सबसे चर्चित पहलुओं में से एक हैं। बूस्टर आभासी कर्मचारियों की सेना बनाने की बात करते हैं जो 24 घंटे काम करते हैं और उत्पादकता बढ़ाते हैं।
लेकिन बढ़ी हुई स्वायत्तता अप्रत्याशित व्यवहार के बढ़ते जोखिम के साथ आती है, और जिन शक्तिशाली मॉडलों का वे उपयोग करते हैं, वे कार्यों को पूरा करने या परीक्षण पास करने के लिए शॉर्टकट लेने के लिए तैयार होते हैं।
“मॉडल झूठ बोलते हैं, वे धोखा देते हैं, वे हैक करते हैं,” जेफरी लैडिश ने कहा, जिसका संगठन, पैलिसेड रिसर्च, एआई एजेंटों की क्षमताओं और प्रेरणाओं का अध्ययन करता है।
लैडिश ने कहा कि जबकि हगिंग फेस की हैक ने ओपनएआई पर एक अप्रभावी प्रकाश डाला है, इससे व्यापक सवाल उठना चाहिए कि सभी प्रमुख एआई कंपनियां सबसे अच्छे और सबसे तेज़ मॉडल को तैनात करने के लिए एक दूसरे के साथ दौड़ में बंद होने के दौरान कठिन सुरक्षा उपायों में कितना निवेश करने को तैयार हैं।
लाडिश ने कहा, “सरकारी निगरानी होनी चाहिए, क्योंकि अन्यथा ऐसा नहीं होगा।” (वाशिंगटन में राफेल सैटर और सैन फ्रांसिस्को में दीपा सीतारमन और केनरिक कै द्वारा रिपोर्टिंग; क्रिस सैंडर्स और अन्ना ड्राइवर द्वारा संपादन)
