एजेंटिक एआई-सक्षम ब्राउज़रों का युग आ गया है, जिसमें पर्प्लेक्सिटी के कॉमेट और ओपनएआई के चैटजीपीटी एटलस सबसे आगे हैं, जबकि ओपेरा नियॉन और ब्राउज़र कंपनी के डिया जैसे अन्य ब्राउज़र भी दौड़ में हैं। हालाँकि, नई तकनीक अपने साथ सुरक्षा चुनौतियों का एक नया सेट भी लाती है, और उनमें से कुछ को एक हालिया रिपोर्ट में उजागर किया गया था।
विशेष रूप से, कॉमेट और एटलस की अपील का एक बड़ा हिस्सा यह है कि वे उपयोगकर्ता की ओर से बहु-चरणीय कार्रवाइयां पूरी कर सकते हैं। हालाँकि, क्रोमियम-आधारित ब्राउज़र, ब्रेव, तथाकथित एजेंटिक एआई ब्राउज़र द्वारा फैलाए जा सकने वाले सुरक्षा खतरों के बारे में मुखर रहा है।
पहले की एक रिपोर्ट में, बहादुर शोधकर्ताओं ने धूमकेतु में एक सुरक्षा भेद्यता को उजागर किया था जिसने दुर्भावनापूर्ण वेबसाइटों को ब्राउज़र के एआई सहायक को हाईजैक करने और अनधिकृत कार्य करने की अनुमति दी थी।
बहादुर शोधकर्ताओं ने पर्प्लेक्सिटी के एआई ब्राउज़र, कॉमेट में गंभीर त्वरित इंजेक्शन कमजोरियों को उजागर किया है। सुरक्षा दोष दुर्भावनापूर्ण वेबसाइटों को ब्राउज़र के एआई सहायक को हाईजैक करने और ‘अप्रत्यक्ष शीघ्र इंजेक्शन’ नामक तकनीक के माध्यम से उपयोगकर्ता के लॉग-इन विशेषाधिकारों के साथ अनधिकृत कार्य करने की अनुमति दे सकता है।
इस तकनीक में हैकर को वेबपेज या सोशल मीडिया टिप्पणी या छवि के भीतर छिपे हुए कमांड को एम्बेड करना शामिल है, जिसे एआई उपयोगकर्ता से कमांड के रूप में लेता है।
ब्रेव ने एक बार फिर एजेंटिक ब्राउज़रों के बारे में चेतावनी दी है
अपने नवीनतम ब्लॉग पोस्ट में, ब्रेव ने एक बार फिर धूमकेतु सहायक में पाई गई सुरक्षा कमजोरियों के बारे में बात की जो हमलावरों को एक संकेत इंजेक्ट करने और सहायक को ऐसे कार्य करने की अनुमति देती है जो उपयोगकर्ता का इरादा नहीं था।
रिपोर्ट में कहा गया है कि कॉमेट उपयोगकर्ताओं को वेबसाइटों के स्क्रीनशॉट लेने और उन छवियों के बारे में प्रश्न पूछने की अनुमति देता है, लेकिन हमलावर अब दुर्भावनापूर्ण निर्देशों को छवि के भीतर लगभग अदृश्य पाठ के रूप में एम्बेड करके संकेत दे रहे हैं।
”एक हमलावर वेब सामग्री में दुर्भावनापूर्ण निर्देश एम्बेड करता है जिसे मनुष्यों के लिए देखना मुश्किल होता है। हमारे हमले में, हम पीले रंग की पृष्ठभूमि पर हल्के हल्के नीले पाठ का उपयोग करके छवियों में त्वरित इंजेक्शन निर्देशों को छिपाने में सक्षम थे। इसका मतलब है कि दुर्भावनापूर्ण निर्देश प्रभावी रूप से उपयोगकर्ता से छिपे हुए हैं,” ब्रेव ने अपने ब्लॉग पोस्ट में बताया।
एआई सहायक फिर स्क्रीनशॉट से टेक्स्ट निकालता है, और इंजेक्ट किया गया कमांड उसे दुर्भावनापूर्ण तरीके से ब्राउज़र टूल का उपयोग करने का निर्देश देता है।
शोधकर्ता फ़ेलौ नामक एक अन्य एजेंटिक एआई ब्राउज़र के सुरक्षा मापदंडों को भी बायपास करने में सक्षम थे। उन्होंने पाया कि ब्राउज़र को किसी वेबसाइट पर जाने के लिए कहने से वह वेबसाइट की सामग्री को उसके एलएलएम पर भेज देता है। अंततः, AI वेबपेज पर उपयोगकर्ता कमांड और दुर्भावनापूर्ण कमांड दोनों को LLM पर भेजता है, जो AI को ब्राउज़र टूल का दुर्भावनापूर्ण उपयोग करने का निर्देश देता है।
ब्रेव ने एक सोशल मीडिया पोस्ट में चेतावनी दी, ”इस गर्मी में पर्प्लेक्सिटी के कॉमेट ब्राउज़र में हमें जो सुरक्षा भेद्यता मिली, वह कोई अलग मुद्दा नहीं है। अप्रत्यक्ष त्वरित इंजेक्शन कॉमेट और अन्य एआई-संचालित ब्राउज़रों के सामने आने वाली एक प्रणालीगत समस्या है।”
ओपनएआई को एजेंटिक एआई-आधारित ब्राउज़रों के जोखिमों के बारे में भी अच्छी तरह से पता था क्योंकि उसने मंगलवार को एटलस लॉन्च किया था।
ओपनएआई के एक कर्मचारी ने एटलस लाइव-स्ट्रीम के दौरान स्वीकार किया, ”चैटजीपीटी के साथ अपने ब्राउज़र को साझा करने से आपको मिलने वाली सारी शक्ति और अद्भुत क्षमताओं के बावजूद, यह जोखिमों का एक बिल्कुल नया सेट भी पैदा करता है।”
जबकि चैटजीपीटी निर्माता का कहना है कि एटलस ब्राउज़र टैब को छोड़कर कंप्यूटर पर अन्य डेटा तक नहीं पहुंच सकता है, कंपनी ने यह स्पष्ट नहीं किया कि उसका ब्राउज़र त्वरित इंजेक्शन के खिलाफ बेहतर तरीके से कैसे सुरक्षित है। सोशल मीडिया पर कुछ उपयोगकर्ताओं ने यह भी दावा करना शुरू कर दिया है कि धूमकेतु की तरह एटलस भी त्वरित इंजेक्शन के प्रति संवेदनशील है।
