टेकक्रंच द्वारा उद्धृत द इंफॉर्मेशन की एक रिपोर्ट के अनुसार, एक मेटा एआई एजेंट टेक दिग्गज के अंदर घुस गया और संवेदनशील कंपनी और उपयोगकर्ता डेटा को उन कर्मचारियों को उजागर कर दिया, जिनके पास इसे एक्सेस करने की अनुमति नहीं थी। कथित तौर पर, यह घटना तब हुई जब एक मेटा कर्मचारी ने एक आंतरिक मंच पर एक तकनीकी प्रश्न के लिए मदद मांगने के लिए पोस्ट किया, जो कंपनी के अंदर एक मानक अभ्यास है।
हालाँकि, कहा जाता है कि एक अन्य इंजीनियर ने प्रश्न का विश्लेषण करने में मदद करने के लिए एक एआई एजेंट को बुलाया और इंजीनियर से इसे साझा करने की अनुमति मांगे बिना एक प्रतिक्रिया पोस्ट की।
विशेष रूप से, कहा जाता है कि एआई एजेंट ने अच्छी सलाह नहीं दी थी और जिस कर्मचारी ने सवाल पूछा था, उसने कथित तौर पर एजेंट के मार्गदर्शन के आधार पर कार्रवाई की, जिसके कारण उसने अनजाने में भारी मात्रा में कंपनी और उपयोगकर्ता से संबंधित डेटा इंजीनियरों को उपलब्ध करा दिया, जिन्हें दो घंटे तक इसे देखने की अनुमति नहीं थी।
मेटा ने कथित तौर पर द इनफॉर्मेशन से घटना की वैधता की पुष्टि की। ऐसा कहा जाता है कि कंपनी ने इस घटना को “सेव 1” रेटिंग दी है, जो सुरक्षा मुद्दों को मापने के लिए तकनीकी दिग्गज की आंतरिक प्रणाली में गंभीरता का दूसरा उच्चतम स्तर है।
विशेष रूप से, किसी मेटा कर्मचारी द्वारा दुष्ट एआई एजेंटों के साथ समस्याओं का सामना करने का यह पहला मामला नहीं है। पिछले महीने, मेटा के एआई सुरक्षा और संरेखण के प्रमुख, समर यू ने एक्स पर एक पोस्ट में खुलासा किया था कि कैसे उसने अपने जीमेल इनबॉक्स को ओपनक्लॉ के एक स्वायत्त एजेंट के साथ जोड़ा था, जो दुष्ट हो गया था और कोई भी कार्रवाई करने से पहले पुष्टि करने के उसके स्पष्ट निर्देशों के बावजूद उसके इनबॉक्स को बड़े पैमाने पर हटाना शुरू कर दिया था।
यू ने एक्स पर एक पोस्ट में खुलासा किया था, “मैं इसे अपने फोन से रोक नहीं सका। मुझे अपने मैक मिनी की ओर भागना पड़ा जैसे कि मैं एक बम को डिफ्यूज कर रहा हूं।”
मेटा का AI दांव:
इस बीच, ऐसा प्रतीत होता है कि मेटा को एजेंटिक एआई सिस्टम में उच्च विश्वास है क्योंकि टेक दिग्गज ने पिछले हफ्ते ही पहला एआई-ओनली सोशल मीडिया प्लेटफॉर्म मोल्टबुक खरीदा है, जबकि इसके सह-संस्थापक मैट श्लिच और बेन पार्र को इसके मेटा सुपरइंटेलिजेंस लैब्स (एमएसएल) पहल में शामिल किया है।
कंपनी द्वारा एमएसएल पहल पिछले साल कृत्रिम बुद्धिमत्ता स्टार्टअप स्केल एआई में 49% हिस्सेदारी हासिल करने के लिए 14.3 बिलियन डॉलर के निवेश के बाद हुई थी। तब से, कंपनी ने ‘सुपरइंटेलिजेंस’ एआई सिस्टम तक पहुंचने के लिए ओपनएआई, गूगल और एंथ्रोपिक जैसे प्रतिद्वंद्वियों के साथ प्रतिस्पर्धा करने के लिए आंतरिक रूप से कई बदलाव किए हैं।
स्केल एआई और मोल्टबुक के अलावा, मेटा ने पिछले साल ही कई अन्य एआई दांव भी लगाए हैं, जिसमें पिछले साल दिसंबर में एआई एजेंट स्टार्टअप मानुस एआई की खरीद और उसी महीने में एआई पहनने योग्य स्टार्टअप लिमिटलेस शामिल है।
