एक नए अध्ययन में चेतावनी दी गई है कि जेनेरेटिव एआई ने दुर्भावनापूर्ण हैकरों के लिए गुमनाम सोशल मीडिया उपयोगकर्ताओं की वास्तविक पहचान को उजागर करना काफी आसान बना दिया है। अध्ययन का हवाला देते हुए द गार्जियन की एक रिपोर्ट के अनुसार, बड़े भाषा मॉडल (एलएलएम) अब विभिन्न प्लेटफार्मों पर पोस्ट की गई हानिरहित जानकारी को संश्लेषित करके वास्तविक पहचान के साथ गुमनाम ऑनलाइन प्रोफाइल का सफलतापूर्वक मिलान कर सकते हैं।
शोधकर्ताओं को क्या मिला?
रिपोर्ट में कहा गया है कि एआई शोधकर्ता साइमन लेर्मेन और डैनियल पालेका ने पाया कि चैटजीपीटी जैसे प्लेटफार्मों के पीछे की तकनीक परिष्कृत गोपनीयता हमलों को अत्यधिक लागत प्रभावी बनाती है। शोधकर्ताओं ने एक प्रयोग चलाया जहां उन्होंने गुमनाम खातों को एआई में फीड किया और उसे सभी उपलब्ध जानकारी को खंगालने का निर्देश दिया।
काल्पनिक परिदृश्य में, एक गुमनाम उपयोगकर्ता ने स्कूल में अपने संघर्षों और “डोलोरेस पार्क” में अपने कुत्ते, बिस्किट को घुमाने के संघर्ष का उल्लेख किया।
इसके बाद एआई ने इन विशिष्ट विवरणों के लिए अन्य प्लेटफार्मों पर खोज की, उच्च स्तर के आत्मविश्वास के साथ अज्ञात हैंडल को ज्ञात, वास्तविक दुनिया की पहचान से सफलतापूर्वक मिलान किया।
शोधकर्ताओं ने चेतावनी दी है कि अधिक परिष्कृत हमलों को करने के लिए आवश्यक विशेषज्ञता अब बहुत कम है, हैकरों को केवल इंटरनेट कनेक्शन और सार्वजनिक रूप से उपलब्ध भाषा मॉडल तक पहुंच की आवश्यकता है। उनका कहना है कि यह “ऑनलाइन निजी मानी जा सकने वाली चीज़ों का मौलिक पुनर्मूल्यांकन करने पर मजबूर करता है”।
रिपोर्ट में यह भी कहा गया है कि एलएलएम कोई जादुई हथियार नहीं हैं और हालांकि वे कई स्थितियों में रिकॉर्ड को गुमनाम कर सकते हैं, कभी-कभी मॉडल के लिए निष्कर्ष निकालने के लिए पर्याप्त जानकारी नहीं होती है, जबकि अन्य मामलों में संभावित मैचों की संख्या इतनी बड़ी हो सकती है कि उसे कम नहीं किया जा सकता है।
प्राथमिक जोखिम क्या हैं?
जबकि शोधकर्ताओं द्वारा उद्धृत उदाहरण काल्पनिक था, वे कई परिदृश्यों को भी उजागर करते हैं जहां इन नई एआई क्षमताओं का उपयोग किया जा सकता है, जिसमें अज्ञात असंतुष्टों और कार्यकर्ताओं पर निगरानी रखने के लिए एआई का उपयोग करने वाली सरकारें या यहां तक कि हैकर्स को “अत्यधिक वैयक्तिकृत” घोटाले शुरू करने की क्षमता प्राप्त करना शामिल है।
लेर्मेन ने यह भी चेतावनी दी कि सार्वजनिक रूप से उपलब्ध जानकारी का स्पीयर-फ़िशिंग जैसे घोटालों के लिए “सीधे तौर पर दुरुपयोग” किया जा सकता है, जहां एक हैकर एक विश्वसनीय मित्र के रूप में पीड़ितों को दुर्भावनापूर्ण लिंक पर क्लिक करने के लिए प्रेरित करता है।
प्लेटफ़ॉर्म और उपयोगकर्ता अपनी सुरक्षा कैसे कर सकते हैं?
बढ़ते खतरे से निपटने के लिए, लेर्मेन ने सिफारिश की है कि सोशल मीडिया प्लेटफॉर्म डेटा एक्सेस को प्रतिबंधित करके पहला कदम उठाएं। इसमें उपयोगकर्ता डेटा डाउनलोड पर दर सीमा लागू करना, स्वचालित स्क्रैपिंग बॉट का पता लगाना और डेटा के थोक निर्यात को प्रतिबंधित करना शामिल है।
शोधकर्ता ने यह भी नोट किया कि व्यक्तिगत उपयोगकर्ताओं को उन विशिष्ट व्यक्तिगत विवरणों के संबंध में अधिक सावधानी बरतने की आवश्यकता है जिन्हें वे ऑनलाइन साझा करना चुनते हैं।
