एलोन मस्क ने ग्रोक की अश्लील छवि पीढ़ियों पर हालिया हंगामे पर प्रतिक्रिया व्यक्त की है। एक्सएआई के स्वामित्व वाला चैटबॉट बड़े पैमाने पर विवाद के केंद्र में रहा है, जहां उपयोगकर्ता एआई का फायदा उठाकर महिलाओं और बच्चों की परेशान करने वाली तस्वीरें बनाते हैं और उन्हें एक्स पर साझा करते हैं।
अरबपति ने एक उपयोगकर्ता के पोस्ट को ‘बिल्कुल’ शीर्षक के साथ रीपोस्ट किया, जिसमें कहा गया था कि महिलाओं की बिकनी पहने तस्वीरें बनाने वाले उपयोगकर्ताओं के लिए एक्स को दंडित नहीं किया जाना चाहिए।
“तो क्या हुआ अगर ग्रोक लोगों को बिकनी में रख सकता है? तो फ़ोटोशॉप भी कर सकता है? तो क्या लाखों ऐप्स पहले से ही कर सकते हैं? यह कोई नई समस्या नहीं है, यह एक नया टूल है। यदि कोई उपयोगकर्ता बिना सहमति के ऐसा करता है, तो उपयोगकर्ता को दंडित किया जाना चाहिए, न कि प्लेटफ़ॉर्म को।” उपयोगकर्ता ने नोट किया
मस्क की यह टिप्पणी तब आई है जब कई देश चैटबॉट के अनुचित व्यवहार को लेकर एक्स और ग्रोक पर कार्रवाई करने पर विचार कर रहे हैं। इस बीच, ग्रोक की छवि संपादन सुविधा को भी कथित तौर पर पेवॉल के पीछे रखा गया है।
इसके अलावा, इंडोनेशिया आज अनुचित सामग्री निर्माण के कारण चैटबॉट पर प्रतिबंध लगाने वाला पहला देश बन गया है और वह एक्स अधिकारियों को भी बुलाकर उनसे अपने प्लेटफॉर्म में सुरक्षा उपाय लागू करने के लिए कहेगा।
तीन डेमोक्रेट अमेरिकी सीनेटरों ने भी Google और Apple से हस्तक्षेप करने और अपने ऐप स्टोर से X और ग्रोक पर प्रतिबंध लगाने के लिए कहा है, जब तक कि प्लेटफ़ॉर्म अपने उपयोगकर्ताओं की सुरक्षा के लिए पर्याप्त सुरक्षा उपाय लागू नहीं करते।
भारत के इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने भी एक्स को ग्रोक के दुरुपयोग पर एक औपचारिक नोटिस भेजा था और कंपनी से सभी गैरकानूनी सामग्री को हटाते हुए एक विस्तृत कार्रवाई रिपोर्ट प्रस्तुत करने को कहा था।
ग्रोक के माध्यम से सकल छवि पीढ़ी के बारे में मस्क और एक्स ने क्या कहा है?
एक्स ने पिछले हफ्ते कहा था कि वह प्लेटफॉर्म पर उत्पन्न होने वाली अवैध सामग्री को हटाकर और खातों को स्थायी रूप से निलंबित करके उसके खिलाफ कार्रवाई करेगा। कंपनी ने यह भी कहा कि जरूरत पड़ने पर वह स्थानीय सरकारों और कानून प्रवर्तन एजेंसियों के साथ काम करेगी।
“ग्रोक का उपयोग करने वाले या अवैध सामग्री बनाने के लिए प्रेरित करने वाले किसी भी व्यक्ति को उसी तरह के परिणाम भुगतने होंगे जैसे कि वे अवैध सामग्री अपलोड करते हैं।” मस्क ने पिछले सप्ताह पोस्ट किया था, एक रुख जिसे बाद में मंच द्वारा आधिकारिक तौर पर दोहराया गया था।
चैटबॉट को 2023 में जनता के लिए लॉन्च किया गया था और तब से कंपनी ने Google, OpenAI और अन्य की प्रतिद्वंद्वी पेशकशों के साथ प्रतिस्पर्धा करने के लिए नए भाषा मॉडल जोड़े हैं। हालाँकि, अन्य एआई प्लेटफार्मों के विपरीत, ग्रोक ने अक्सर खुद को उपयोगकर्ताओं को जो पेशकश की है उसके लिए सीमा पार करने को लेकर विवाद के केंद्र में पाया है। उदाहरण के लिए, कंपनी ने पहले लॉसर गार्डरेल्स के साथ वयस्क सामग्री के लिए चैटबॉट में एक ‘मसालेदार मोड’ जोड़ा था और ऐप में एक ‘एनी’ व्यक्तित्व जोड़ा था जो उपयोगकर्ताओं के लिए एक आभासी प्रेमिका के रूप में कार्य करता है।
