नयी दिल्ली, सात जनवरी (भाषा) आईटी मंत्रालय महिलाओं और नाबालिगों की कामुक और अश्लील तस्वीरें बनाने के लिए उपयोगकर्ताओं द्वारा कृत्रिम बुद्धिमत्ता चैटबॉट ग्रोक के दुरुपयोग पर रोक लगाने के सरकारी निर्देश के बाद एक्स द्वारा की गई प्रतिक्रिया और प्रस्तुतियों की जांच कर रहा है, सूत्रों ने कहा।
‘ग्रोक’ और अन्य टूल जैसी एआई-आधारित सेवाओं के दुरुपयोग के माध्यम से उत्पन्न होने वाली अश्लील और यौन-स्पष्ट सामग्री पर एलोन मस्क के नेतृत्व वाले सोशल मीडिया प्लेटफॉर्म को कड़ी चेतावनी जारी करने के बाद, एक्स को मंत्रालय को एक विस्तृत कार्रवाई रिपोर्ट जमा करने के लिए बुधवार शाम 5 बजे तक का समय दिया गया था।
सूत्रों ने पीटीआई को बताया कि एक्स ने अपना जवाब सौंप दिया है और इसकी जांच की जा रही है।
हालाँकि, एक्स की प्रस्तुति का विवरण तुरंत ज्ञात नहीं था।
रविवार को, एक्स के ‘सेफ्टी’ हैंडल ने कहा कि वह अपने प्लेटफॉर्म पर बाल यौन शोषण सामग्री (सीएसएएम) सहित अवैध सामग्री के खिलाफ कार्रवाई करता है, इसे हटाकर, खातों को स्थायी रूप से निलंबित करता है, और आवश्यकतानुसार स्थानीय सरकारों और कानून प्रवर्तन के साथ काम करता है।
एक्स ने अवैध सामग्री पर मस्क द्वारा अपनाए गए रुख को दोहराते हुए कहा था, “ग्रोक का उपयोग करने वाले या अवैध सामग्री बनाने के लिए प्रेरित करने वाले किसी भी व्यक्ति को उसी तरह के परिणाम भुगतने होंगे जैसे कि वे अवैध सामग्री अपलोड करते हैं।”
2 जनवरी को, आईटी मंत्रालय ने एक्स की खिंचाई की और उसे सभी अश्लील, अश्लील और गैरकानूनी सामग्री को तुरंत हटाने का निर्देश दिया, विशेष रूप से ग्रोक (एक्स के अंतर्निहित कृत्रिम बुद्धिमत्ता इंटरफ़ेस) द्वारा उत्पन्न या कानून के तहत कार्रवाई का सामना करने के लिए।
शुक्रवार को निर्देश में, मंत्रालय ने अमेरिका स्थित सोशल मीडिया फर्म को 72 घंटों के भीतर एक विस्तृत कार्रवाई रिपोर्ट (एटीआर) जमा करने के लिए कहा, जिसमें ग्रोक एप्लिकेशन के संबंध में अपनाए गए या प्रस्तावित विशिष्ट तकनीकी और संगठनात्मक उपायों का विवरण दिया गया हो; मुख्य अनुपालन अधिकारी द्वारा निभाई गई भूमिका और निरीक्षण; आपत्तिजनक सामग्री, उपयोगकर्ताओं और खातों के विरुद्ध की गई कार्रवाई; साथ ही भारतीय कानूनों के तहत अनिवार्य रिपोर्टिंग आवश्यकता का अनुपालन सुनिश्चित करने के लिए तंत्र।
आईटी मंत्रालय ने जारी अल्टीमेटम में कहा कि एक्स द्वारा विकसित और प्लेटफॉर्म पर एकीकृत ग्रोक एआई का उपयोगकर्ताओं द्वारा अपमानजनक या अश्लील तरीके से महिलाओं की अश्लील छवियों या वीडियो को होस्ट करने, उत्पन्न करने, प्रकाशित करने या साझा करने के लिए फर्जी अकाउंट बनाने के लिए दुरुपयोग किया जा रहा है।
मंत्रालय ने कहा, “महत्वपूर्ण बात यह है कि यह नकली खातों के निर्माण तक ही सीमित नहीं है, बल्कि उन महिलाओं को भी निशाना बनाया जाता है जो संकेतों, छवि हेरफेर और सिंथेटिक आउटपुट के माध्यम से अपनी छवियों या वीडियो को होस्ट या प्रकाशित करती हैं।” मंत्रालय ने कहा कि ऐसा आचरण मंच-स्तरीय सुरक्षा उपायों और प्रवर्तन तंत्र की गंभीर विफलता को दर्शाता है, और निर्धारित कानूनों के उल्लंघन में कृत्रिम बुद्धिमत्ता (एआई) प्रौद्योगिकियों के घोर दुरुपयोग के बराबर है।
सरकार ने एक्स को यह स्पष्ट कर दिया कि आईटी अधिनियम और नियमों का अनुपालन वैकल्पिक नहीं है, और आईटी अधिनियम की धारा 79 (जो ऑनलाइन मध्यस्थों के लिए दायित्व से सुरक्षित बंदरगाह और प्रतिरक्षा से संबंधित है) के तहत वैधानिक छूट उचित परिश्रम दायित्वों के सख्त पालन पर सशर्त है।
मंत्रालय ने कहा, “तदनुसार, आपको सलाह दी जाती है कि आप अपने मंच पर किसी भी ऐसी सामग्री की मेजबानी, प्रदर्शन, अपलोडिंग, प्रकाशन, प्रसारण, भंडारण, साझा करने से सख्ती से बचें जो अश्लील, अश्लील, अश्लील, अश्लील, यौन रूप से स्पष्ट, पीडोफिलिक, या अन्यथा किसी भी कानून के तहत निषिद्ध है…”
सरकार ने एक्स को स्पष्ट शब्दों में चेतावनी दी कि उचित परिश्रम दायित्वों का पालन करने में किसी भी विफलता के परिणामस्वरूप आईटी अधिनियम की धारा 79 के तहत देयता से छूट का नुकसान होगा, और यह मंच आईटी अधिनियम और भारतीय न्याय संहिता सहित अन्य कानूनों के तहत परिणामी कार्रवाई के लिए भी उत्तरदायी होगा।
इसने एक्स से उपयोगकर्ता की सेवा की शर्तों और एआई उपयोग प्रतिबंधों को लागू करने के लिए कहा, जिसमें उल्लंघन करने वाले उपयोगकर्ताओं और खातों के खिलाफ निलंबन, समाप्ति और अन्य प्रवर्तन कार्रवाइयों जैसे मजबूत निवारक उपाय सुनिश्चित करना शामिल है।
एक्स को आईटी नियम, 2021 के तहत निर्धारित समयसीमा के सख्त अनुपालन में, सबूतों को खराब किए बिना, लागू कानूनों के उल्लंघन में पहले से उत्पन्न या प्रसारित सभी सामग्री तक “बिना देरी” पहुंच को हटाने या अक्षम करने के लिए भी कहा गया है।
भारत के अलावा, इस मंच की यूके और मलेशिया में भी आलोचना हुई है। ब्रिटेन के स्वतंत्र संचार नियामक ऑफकॉम ने हाल ही में एक सोशल मीडिया पोस्ट में कहा: “हम ग्रोक ऑन एक्स पर एक फीचर के बारे में उठाई गई गंभीर चिंताओं से अवगत हैं जो लोगों की नग्न छवियां और बच्चों की कामुक छवियां उत्पन्न करता है”।
“हमने यह समझने के लिए एक्स और एक्सएआई के साथ तत्काल संपर्क किया है कि उन्होंने यूके में उपयोगकर्ताओं की सुरक्षा के लिए अपने कानूनी कर्तव्यों का पालन करने के लिए क्या कदम उठाए हैं। उनकी प्रतिक्रिया के आधार पर, हम यह निर्धारित करने के लिए एक त्वरित मूल्यांकन करेंगे कि क्या संभावित अनुपालन मुद्दे हैं जिनकी जांच की आवश्यकता है,” ऑफकॉम ने कहा।
