एंथ्रोपिक के एआई कोडिंग सहायक का उपयोग करते हुए एक नियमित सर्वर माइग्रेशन बुरी तरह से गलत हो गया, जिसकी भारतीय मूल के तकनीकी संस्थापक ने आलोचना की, जिसने सोशल मीडिया पर बॉट के उपयोग का मजाक उड़ाया। इस घटना के कारण एक लोकप्रिय ऑनलाइन लर्निंग प्लेटफॉर्म से 2.5 साल का डेटा गलती से डिलीट हो गया।समस्या तब शुरू हुई जब एक जर्मन डेवलपर और DataTalks.Club और AI शिपिंग लैब्स के संस्थापक एलेक्सी ग्रिगोरेव ने एंथ्रोपिक के AI कोडिंग एजेंट क्लाउड कोड का उपयोग करके अपनी साइटों को अमेज़ॅन वेब सर्विसेज (AWS) में स्थानांतरित करने का निर्णय लिया। ग्रिगोरेव ने लागत बचाने के लिए क्लाउड को साइटों के बुनियादी ढांचे को मर्ज करने के लिए टेराफॉर्म कमांड चलाने के लिए कहा।टेराफॉर्म एक उपकरण है जो संपूर्ण सर्वर वातावरण को स्वचालित रूप से बना या हटा सकता है। इस अवसर पर, ग्रिगोरेव एक महत्वपूर्ण “स्टेट फ़ाइल” अपलोड करना भूल गए जो टेराफ़ॉर्म को बताती है कि क्या पहले से मौजूद है। इसके बिना, क्लाउड ने डुप्लिकेट संसाधन बनाए। बाद में, जब राज्य फ़ाइल जोड़ी गई, तो क्लाउड ने अवांछित बुनियादी ढांचे के रूप में जो कुछ भी देखा उसे हटाने के लिए “नष्ट” आदेश जारी किया। परिणाम विनाशकारी था.क्लाउड ने DataTalks.Club के लिए उत्पादन डेटाबेस को मिटा दिया, सभी छात्र प्रस्तुतियाँ, होमवर्क, प्रोजेक्ट, लीडरबोर्ड और स्वचालित बैकअप हटा दिए। इस दुर्घटना ने ग्रिगोरेव की एआई शिपिंग लैब्स साइट के बुनियादी ढांचे को भी प्रभावित किया। यह महसूस करते हुए कि क्या हुआ था, उन्होंने अमेज़न बिजनेस सपोर्ट से संपर्क किया। AWS टीम डेटा को पुनर्स्थापित करने में सक्षम थी, लेकिन इसमें लगभग पूरा दिन लग गया।कई डेवलपर्स ने कहा कि आपदा को रोका जा सकता था और यह मानवीय भूल के कारण हुई, न कि क्लाउड की किसी खामी के कारण। सबसे वायरल प्रतिक्रियाओं में से एक सैन फ्रांसिस्को स्थित सॉफ्टवेयर फर्म लैपिस के भारतीय मूल के संस्थापक वरुणराम गणेश की ओर से आई।गणेश ने व्यंग्यात्मक पंक्तियों के साथ एक्स पर ग्रिगोरेव के संकेत का मजाक उड़ाया: “क्लाउड को टेराफॉर्म को नष्ट करने के लिए कहता है। क्लाउड ने टेराफॉर्म को नष्ट कर दिया। हे भगवान क्लाउड ने मेरे टेराफॉर्म को नष्ट कर दिया।”उन्होंने आगे कहा: “बहुत से लोग 6 साल के बच्चों की तरह संकेत देते हैं और आश्चर्यचकित हो जाते हैं जब मॉडल वही करता है जो वे चाहते हैं, जैसे आपने क्या उम्मीद की थी?”इस घटना ने एआई एजेंटों को सुरक्षा जांच के बिना लाइव सिस्टम तक सीधी पहुंच देने के जोखिमों के बारे में चिंताएं बढ़ा दीं। उपयोगकर्ताओं ने कहा कि टेराफ़ॉर्म आम तौर पर उपयोगकर्ताओं को उन्हें लागू करने से पहले परिवर्तनों का पूर्वावलोकन करने देता है, लेकिन उन चरणों को छोड़ दिया गया, जिससे क्लाउड को आदेशों का सटीक रूप से पालन करना पड़ा।घटना के बाद, ग्रिगोरेव ने कड़े नियम बनाए। उन्होंने कहा कि वह अब एआई एजेंटों को मैन्युअल अनुमोदन के बिना कमांड चलाने की अनुमति नहीं देंगे और इसी तरह की गलतियों को रोकने के लिए सभी टेराफॉर्म योजनाओं की व्यक्तिगत रूप से समीक्षा करेंगे।
