कई मीडिया रिपोर्टों के अनुसार, एंथ्रोपिक ने गुरुवार को स्वीकार किया कि जब उसने कुछ दिन पहले क्लाउड फैबल 5 मॉडल जारी किया था, तो उसने “गलत व्यापार-बंद” किया था। एंथ्रोपिक की ओर से यह घोषणा तब आई जब कई शोधकर्ताओं और डेवलपर्स ने उपयोगकर्ताओं को सूचित किए बिना अपने एआई मॉडल की क्षमताओं को सीमित करने के लिए एआई स्टार्टअप की आलोचना शुरू कर दी।
यदि आप नहीं जानते हैं, तो फ़ेबल 5 पहला मिथोस-क्लास एआई मॉडल है जिसे एंथ्रोपिक ने जनता के लिए जारी किया है। कंपनी ने अप्रैल में माइथोस की घोषणा की, लेकिन मॉडल से उत्पन्न साइबर सुरक्षा जोखिमों के कारण इसे सार्वजनिक रूप से जारी करने से इनकार कर दिया।
फ़ेबल 5 के साथ, एंथ्रोपिक ने घोषणा की कि साइबर सुरक्षा, जीव विज्ञान या रसायन विज्ञान से संबंधित कोई भी अनुरोध उसके क्लाउड ओपस 4.8 मॉडल को सौंप दिया जाएगा। कंपनी ने यह दावा करते हुए इन प्रतिबंधों का बचाव किया कि माइथोस-क्लास मॉडल का उपयोग साइबर हमले विकसित करने या संभावित हानिकारक अनुप्रयोगों के साथ जैविक अनुसंधान में सहायता करने के लिए किया जा सकता है।
हालाँकि, शोधकर्ताओं को बाद में पता चला कि एआई मॉडल विकसित करने के लिए उपयोग किए जाने पर फैबल 5 को भी चुपचाप खराब किया जा रहा था, जो अनिवार्य रूप से शोधकर्ताओं और प्रतियोगियों को प्रतिद्वंद्वी एआई सिस्टम बनाने या सुधारने के लिए क्लाउड का उपयोग करने से रोक देगा। हालाँकि, कंपनी ने उपयोगकर्ताओं को सूचित नहीं किया जब उनके अनुरोध कम सक्षम सिस्टम को दिए जा रहे थे।
एन्थ्रोपिक ने फ़ेबल 5 के सुरक्षा उपायों के लिए माफ़ी मांगी:
एंथ्रोपिक अब कहता है कि उसने फैबल 5 के कॉन्फ़िगरेशन में गलती की है। कंपनी का कहना है कि अब जब भी Fable 5 किसी अनुरोध को अस्वीकार करेगा या उन्हें कम सक्षम मॉडल पर रीडायरेक्ट करेगा तो वह उपयोगकर्ताओं को सचेत करेगा।
कंपनी ने WIRED को बताया, “हम फ्रंटियर एलएलएम विकास के लिए फैबल 5 के सुरक्षा उपायों को बदल रहे हैं ताकि उन्हें दृश्यमान बनाया जा सके।” “हमने ग़लत समझौता कर लिया और संतुलन सही न कर पाने के लिए हम क्षमा चाहते हैं।”
कंपनी ने बिजनेस इनसाइडर को दिए एक बयान में कहा, “इस सप्ताह से, फ़्लैग किए गए अनुरोध स्पष्ट रूप से ओपस 4.8 पर वापस आ जाएंगे। एपीआई पर, कोई भी फ़्लैग किए गए अनुरोध उनके इनकार का कारण बताएंगे।”
कंपनी ने कथित तौर पर कहा कि राष्ट्रीय सुरक्षा चिंताओं को दूर करने और यह सुनिश्चित करने के लिए सुरक्षा उपाय पेश किए गए थे कि “विदेशी प्रतिद्वंद्वी फ्रंटियर चिप्स और एलएलएम विकसित करने में अमेरिका से आगे न निकल सकें।” कंपनी ने कहा कि अधिकांश कोडिंग और मशीन लर्निंग कार्य इन सुरक्षा उपायों से अप्रभावित थे।
सैन फ्रांसिस्को स्थित एआई स्टार्टअप ने हाल ही में तर्क दिया था कि यदि सुरक्षा अनुसंधान मॉडल क्षमताओं में प्रगति के साथ तालमेल बिठाने में विफल रहता है तो दुनिया को उन्नत एआई मॉडल के विकास को धीमा करने या अस्थायी रूप से रोकने का विकल्प बरकरार रखना चाहिए।
कल्पित 5 कितना शक्तिशाली है?
इस सप्ताह एक ब्लॉग पोस्ट में, एंथ्रोपिक ने दावा किया कि फ़ेबल 5 न केवल आज तक जारी किया गया उसका सबसे शक्तिशाली मॉडल है, बल्कि विभिन्न बेंचमार्क में ओपनएआई और Google के प्रतिद्वंद्वी एआई मॉडल से भी बेहतर प्रदर्शन करता है।
कंपनी ने कहा कि स्ट्राइप के साथ शुरुआती परीक्षण के दौरान, फैबल 5 महीनों के सॉफ्टवेयर इंजीनियरिंग कार्य को दिनों में संपीड़ित करने में सक्षम था। ऐसा कहा जाता है कि एआई मॉडल ने एक ही दिन में 50 मिलियन-लाइन रूबी कोडबेस माइग्रेशन पूरा कर लिया है, अन्यथा दो महीने से अधिक समय तक काम करने वाले इंजीनियरों की एक टीम की आवश्यकता होती।
एंथ्रोपिक ने यह भी कहा कि फ़ेबल 5 उन कार्यों में उत्कृष्टता प्राप्त करता है जिनके लिए दृष्टि क्षमताओं की आवश्यकता होती है, जैसे कि वैज्ञानिक चार्ट से जानकारी निकालना, जटिल आरेखों को समझना और यहां तक कि अकेले स्क्रीनशॉट का उपयोग करके वेब एप्लिकेशन के स्रोत कोड को फिर से बनाना।
