नयी दिल्ली, 11 जनवरी (भाषा) आईटी मंत्रालय द्वारा एलन मस्क समर्थित एआई चैटबॉट ग्रोक से जुड़ी अश्लील सामग्री पर चिंता जताए जाने के बाद माइक्रोब्लॉगिंग प्लेटफॉर्म
एक्स ने अधिकारियों को आश्वासन दिया है कि वह भारतीय कानूनों का पालन करेगा।
यह कार्रवाई ग्रोक पर दुनिया भर की सरकारों के बढ़ते दबाव के बीच हुई है, क्योंकि नियामकों ने पिछले कुछ दिनों में एक्स में सामग्री मॉडरेशन, डेटा सुरक्षा और गैर-सहमति वाली यौन-स्पष्ट छवियों पर जेनेरिक एआई इंजन की जांच तेज कर दी है।
भारत सरकार के सूत्रों के मुताबिक, एक्स ने अपनी गलती स्वीकार कर ली है और आश्वासन दिया है कि वह भारतीय कानूनों का पालन करेगा। तदनुसार, इसने लगभग 3,500 सामग्री को अवरुद्ध कर दिया है, और 600 से अधिक खाते हटा दिए गए हैं। सूत्रों ने कहा कि इसने यह भी आश्वासन दिया है कि आगे से यह अश्लील चित्रण की अनुमति नहीं देगा।
पिछले रविवार को, एक्स के ‘सेफ्टी’ हैंडल ने कहा कि वह अपने प्लेटफॉर्म पर बाल यौन शोषण सामग्री (सीएसएएम) सहित अवैध सामग्री के खिलाफ कार्रवाई करता है, इसे हटाकर, खातों को स्थायी रूप से निलंबित करता है, और आवश्यकतानुसार स्थानीय सरकारों और कानून प्रवर्तन के साथ काम करता है।
अवैध सामग्री पर मस्क द्वारा अपनाए गए रुख को दोहराते हुए, एक्स ने कहा था, “जो कोई भी ग्रोक का उपयोग कर रहा है या अवैध सामग्री बनाने के लिए प्रेरित कर रहा है, उसे उसी तरह के परिणाम भुगतने होंगे जैसे कि वे अवैध सामग्री अपलोड करते हैं।”
एक्सएआई चैटबॉट ग्रोक पर उपयोगकर्ता संकेतों के माध्यम से छवियों की ‘डिजिटल अनड्रेसिंग’ को लेकर एक्स को वैश्विक प्रतिक्रिया का सामना करना पड़ रहा है। यूरोप और एशिया सहित दुनिया भर की सरकारों ने इसे आलोचना का शिकार बनाया है और मंच को ऑनलाइन सुरक्षा मानदंडों का पालन करने में विफल रहने पर परिणाम भुगतने की चेतावनी दी है, जबकि इस मुद्दे पर एक्स और ग्रोक दोनों पर कार्रवाई के लिए जनता की मांग बढ़ रही है।
2 जनवरी को, आईटी मंत्रालय ने एक्स की खिंचाई की थी और उसे ग्रोक द्वारा उत्पन्न सभी अश्लील, अश्लील और गैरकानूनी सामग्री को तुरंत हटाने या कानून के तहत कार्रवाई का सामना करने का निर्देश दिया था।
निर्देश में, मंत्रालय ने यूएस-आधारित सोशल मीडिया फर्म को 72 घंटों के भीतर एक विस्तृत कार्रवाई रिपोर्ट (एटीआर) प्रस्तुत करने के लिए कहा, जिसमें ग्रोक एप्लिकेशन के संबंध में अपनाए गए या प्रस्तावित विशिष्ट तकनीकी और संगठनात्मक उपायों, मुख्य अनुपालन अधिकारी द्वारा निभाई गई भूमिका और निरीक्षण, अपमानजनक सामग्री, उपयोगकर्ताओं और खातों के खिलाफ की गई कार्रवाई के साथ-साथ भारतीय कानूनों के तहत अनिवार्य रिपोर्टिंग आवश्यकता के अनुपालन को सुनिश्चित करने के लिए तंत्र का विवरण दिया गया हो।
आईटी मंत्रालय के संदेश में कहा गया था कि एक्स द्वारा विकसित और प्लेटफॉर्म पर एकीकृत ग्रोक एआई का उपयोगकर्ताओं द्वारा अपमानजनक या अश्लील तरीके से महिलाओं की अश्लील छवियों या वीडियो को होस्ट करने, उत्पन्न करने, प्रकाशित करने या साझा करने के लिए फर्जी अकाउंट बनाने के लिए दुरुपयोग किया जा रहा है।
मंत्रालय ने कहा, “महत्वपूर्ण बात यह है कि यह नकली खातों के निर्माण तक ही सीमित नहीं है, बल्कि उन महिलाओं को भी निशाना बनाया जाता है जो संकेतों, छवि हेरफेर और सिंथेटिक आउटपुट के माध्यम से अपनी छवियों या वीडियो को होस्ट या प्रकाशित करती हैं।” मंत्रालय ने कहा था कि ऐसा आचरण मंच-स्तरीय सुरक्षा उपायों और प्रवर्तन तंत्र की गंभीर विफलता को दर्शाता है, और निर्धारित कानूनों के उल्लंघन में कृत्रिम बुद्धिमत्ता (एआई) प्रौद्योगिकियों के घोर दुरुपयोग के बराबर है।
सरकार ने एक्स को स्पष्ट कर दिया था कि आईटी अधिनियम और नियमों का अनुपालन वैकल्पिक नहीं है, और आईटी अधिनियम की धारा 79 (जो ऑनलाइन मध्यस्थों के लिए दायित्व से सुरक्षित बंदरगाह और प्रतिरक्षा से संबंधित है) के तहत वैधानिक छूट उचित परिश्रम दायित्वों के सख्त पालन पर सशर्त है।
सरकार ने एक्स को स्पष्ट शब्दों में चेतावनी दी कि उचित परिश्रम दायित्वों का पालन करने में किसी भी विफलता के परिणामस्वरूप दायित्व से छूट का नुकसान होगा (आईटी अधिनियम की धारा 79 के तहत), और यह मंच आईटी अधिनियम और भारतीय न्याय संहिता सहित अन्य कानूनों के तहत परिणामी कार्रवाई के लिए भी उत्तरदायी होगा।
इसने एक्स से उपयोगकर्ता की सेवा की शर्तों और एआई उपयोग प्रतिबंधों को लागू करने के लिए कहा, जिसमें उल्लंघन करने वाले उपयोगकर्ताओं और खातों के खिलाफ निलंबन, समाप्ति और अन्य प्रवर्तन कार्रवाइयों जैसे मजबूत निवारक उपाय सुनिश्चित करना शामिल है।
एक्स को आईटी नियम, 2021 के तहत निर्धारित समयसीमा के सख्त अनुपालन में, सबूतों को खराब किए बिना, लागू कानूनों के उल्लंघन में पहले से उत्पन्न या प्रसारित सभी सामग्री तक “बिना देरी” पहुंच को हटाने या अक्षम करने के लिए भी कहा गया था।
नोटिस पर एक्स की प्रारंभिक प्रतिक्रिया, हालांकि विस्तृत थी, को मंच द्वारा केवल एक दोहराव के रूप में देखा गया कि वह भारतीय कानूनों और निर्धारित दिशानिर्देशों का सम्मान करता है, और भारत मंच के लिए एक बड़ा बाजार है।
अपनी प्रतिक्रिया में, एक्स ने सख्त सामग्री निष्कासन नीतियों की भी रूपरेखा तैयार की, जिसका पालन वह भ्रामक पोस्ट और गैर-सहमति वाली यौन छवियों से संबंधित पोस्ट के मामले में करता है।
हालाँकि वह उत्तर लंबा और विस्तृत था, आईटी मंत्रालय की राय थी कि वह महत्वपूर्ण जानकारी से चूक गया, जिसमें टेकडाउन विवरण और ग्रोक एआई अश्लील सामग्री मुद्दे पर की गई विशिष्ट कार्रवाई और भविष्य में इसे रोकने के लिए की गई विशिष्ट कार्रवाई शामिल थी।
प्रतिक्रिया अपेक्षाओं से कम रही, जिससे सरकार को अपना रुख सख्त करना पड़ा और अधिक विवरण मांगने पड़े, जिसमें उसके ग्रोक एआई से जुड़ी अश्लील सामग्री पर की गई विशिष्ट कार्रवाई और भविष्य में पुनरावृत्ति को रोकने के उपाय शामिल थे।
सूत्रों ने कहा कि एक्स ने अब अपनी गलती स्वीकार कर ली है और सरकार से कहा है कि वह भारतीय कानूनों और नियमों का पालन करेगी।
भारत के अलावा, यूके और ईयू ने भी ग्रोक डीपफेक इमेज मुद्दे पर एक्स पर दबाव बढ़ाया है। ब्रिटिश प्रधान मंत्री कीर स्टार्मर ने इसे “घृणित” करार दिया, जबकि यूरोपीय आयोग ने कथित तौर पर एक्स को एआई चैटबॉट ग्रोक से संबंधित सभी दस्तावेजों को लंबे समय तक अपने पास रखने के लिए कहा है।
ब्रिटेन के स्वतंत्र संचार नियामक ऑफकॉम ने हाल ही में एक सोशल मीडिया पोस्ट में कहा: “हम ग्रोक ऑन एक्स पर एक फीचर के बारे में उठाई गई गंभीर चिंताओं से अवगत हैं जो लोगों की नग्न छवियां और बच्चों की कामुक छवियां उत्पन्न करता है”।
“हमने यह समझने के लिए एक्स और एक्सएआई के साथ तत्काल संपर्क किया है कि उन्होंने यूके में उपयोगकर्ताओं की सुरक्षा के लिए अपने कानूनी कर्तव्यों का पालन करने के लिए क्या कदम उठाए हैं। उनकी प्रतिक्रिया के आधार पर, हम यह निर्धारित करने के लिए एक त्वरित मूल्यांकन करेंगे कि क्या संभावित अनुपालन मुद्दे हैं जिनकी जांच की आवश्यकता है,” ऑफकॉम ने कहा था।
सप्ताह के दौरान, तीन डेमोक्रेटिक अमेरिकी सीनेटरों ने एक खुले पत्र में ऐप्पल और गूगल से सेवा की शर्तों का उल्लंघन करने के लिए एक्स और ग्रोक को अपने ऐप स्टोर से निलंबित करने का आह्वान किया।
