OpenAI ने चैटजीपीटी के लिए लॉकडाउन मोड नामक एक नई सुरक्षा सुविधा लॉन्च की है, जिसका उद्देश्य उपयोगकर्ताओं के संवेदनशील डेटा को त्वरित इंजेक्शन हमलों से बचाना है। नई सुविधा डेटा घुसपैठ के जोखिम को कम करने के लिए चैटजीपीटी की वेब और बाहरी सेवाओं तक पहुंच को सीमित करती है।
“लॉकडाउन मोड हर किसी के लिए नहीं है। यह उन लोगों और संगठनों के लिए डिज़ाइन किया गया है जो संवेदनशील डेटा को संभालते हैं और शीघ्र इंजेक्शन से संबंधित डेटा घुसपैठ के जोखिमों से सख्त सुरक्षा चाहते हैं।” OpenAI ने एक सपोर्ट पेज पर लिखा।
लॉकडाउन मोड क्या है?
जैसा कि ऊपर उल्लेख किया गया है, नई सुरक्षा सुविधा का उद्देश्य शीघ्र इंजेक्शन की समस्या से निपटना है, जो एलएलएम के लिए एक बढ़ती समस्या है जहां हमलावर एआई चैटबॉट्स को वेबसाइटों, ईमेल, छवियों या अन्य दस्तावेजों में छिपे निर्देशों के माध्यम से उपयोगकर्ता से संबंधित संवेदनशील जानकारी प्रकट करने के लिए धोखा देते हैं।
अपने समर्थन पृष्ठ पर, ओपनएआई ने बताया कि लॉकडाउन मोड को ‘आउटबाउंड नेटवर्क अनुरोधों को सीमित करके एक त्वरित इंजेक्शन हमले के अंतिम चरण को रोकने के लिए डिज़ाइन किया गया है जो एक हमलावर को संवेदनशील डेटा स्थानांतरित कर सकता है।’
कंपनी ने यह भी कहा कि लॉकडाउन मोड चैटजीपीटी द्वारा संसाधित सामग्री में त्वरित इंजेक्शन को प्रदर्शित होने से नहीं रोकता है, जिसका अर्थ है कि एक त्वरित इंजेक्शन अभी भी चैटबॉट से प्रतिक्रियाओं की सटीकता को प्रभावित कर सकता है।
एक बार चैटजीपीटी में लॉकडाउन मोड सक्षम हो जाने पर, यह चैटबॉट की लाइव वेब ब्राउज़िंग को केवल कैश्ड सामग्री तक सीमित कर देता है। इस बीच, डीप रिसर्च और एजेंट मोड भी पूरी तरह से कट गया है, और कैनवस-जनरेटेड कोड अब इंटरनेट तक नहीं पहुंच सकता है।
चैटजीपीटी आपके प्रश्नों का उत्तर देते समय छवियां भी प्रदर्शित नहीं करेगा, और आप लॉकडाउन मोड प्रभावी होने तक चैटबॉट की छवि-उत्पादन सुविधाओं का लाभ नहीं उठा पाएंगे।
लॉकडाउन मोड चैटजीपीटी के अंदर कुछ कनेक्टर्स तक पहुंच को भी कम कर देता है, जिसमें शॉपिंग-एजेंट सुविधाएं और चैटबॉट के अंदर वित्त सुविधा शामिल है।
क्या नहीं बदलता है, इसके संदर्भ में, ओपनएआई का कहना है कि लॉकडाउन मोड मेमोरी, फ़ाइल अपलोड, बातचीत साझा करने की क्षमता को प्रभावित नहीं करेगा, या क्या आपकी बातचीत का उपयोग मॉडल को बेहतर बनाने के लिए किया जा सकता है।
लॉकडाउन मोड का उपयोग कैसे करें?
ओपनएआई का कहना है कि लॉकडाउन मोड सभी चैटजीपीटी फ्री, गो, प्लस, प्रो और सेल्फ-सर्व बिजनेस खातों के लिए शुरू हो रहा है। एक बार यह सुविधा आपके खाते पर उपलब्ध हो जाए, तो आप इसे चालू करने के लिए निम्न विधि की जांच कर सकते हैं।
