रॉयटर्स की एक रिपोर्ट के अनुसार, इंडोनेशिया ने चैटबॉट तक पहुंच को अस्थायी रूप से अवरुद्ध कर दिया है, जो xAI के स्वामित्व वाले चैटबॉट तक पहुंच को अवरुद्ध करने वाला पहला देश बन गया है। इंडोनेशियाई सरकार की ओर से यह कार्रवाई तब की गई है जब चैटबॉट का इस्तेमाल हजारों उपयोगकर्ताओं द्वारा ऑनलाइन महिलाओं और कभी-कभी बच्चों की बिना कपड़ों के तस्वीरें बनाने के लिए किया गया था।
इंडोनेशिया के संचार और डिजिटल मंत्री मेउत्या हाफ़िद ने रॉयटर्स के हवाले से एक बयान में कहा, “सरकार बिना सहमति के यौन डीपफेक के चलन को मानवाधिकारों, गरिमा और डिजिटल क्षेत्र में नागरिकों की सुरक्षा के गंभीर उल्लंघन के रूप में देखती है।”
इंडोनेशिया स्थित अंतरा न्यूज के अनुसार, मंत्रालय ने महिलाओं, बच्चों और आम जनता को एआई-जनित स्पष्ट सामग्री के मनोवैज्ञानिक और सामाजिक नुकसान से बचाने की आवश्यकता का हवाला देते हुए यह निर्णय लिया।
उन्होंने कामुक छवियाँ बनाने के लिए ग्रोक के उपयोग को “डिजिटल-आधारित हिंसा” के रूप में वर्गीकृत किया।
कथित तौर पर, इंडोनेशियाई सरकार ने एक्स अधिकारियों को औपचारिक सम्मन भी जारी किया है, जिन्हें अब स्पष्टीकरण देना होगा और ग्रोक के वर्तमान कॉन्फ़िगरेशन के नकारात्मक प्रभावों के बारे में बताना होगा।
कंपनी को भविष्य में दुरुपयोग को रोकने के लिए उठाए जा रहे ठोस तकनीकी कदमों को प्रस्तुत करके इंडोनेशियाई कानूनों के अनुपालन का प्रदर्शन करना होगा।
मंत्री ने यह भी कहा कि जबकि ग्रोक इंडोनेशिया में अस्थायी रूप से अवरुद्ध है, देश में एआई चैटबॉट का भविष्य सख्त सामग्री फिल्टर और नैतिक एआई मानकों को लागू करने के लिए मंच की इच्छा पर निर्भर करेगा।
ग्रोक के एआई दुरुपयोग के बारे में एलोन मस्क ने क्या कहा?
मस्क और एक्सएआई दोनों ने पिछले हफ्ते उपयोगकर्ताओं को अवैध उद्देश्यों के लिए चैटबॉट का दुरुपयोग करने के बारे में चेतावनी दी थी, जिसमें कहा गया था कि यह उन्हें कानूनी परेशानी में डाल सकता है।
मस्क ने एक्स पर एक पोस्ट में कहा था, “अवैध सामग्री बनाने के लिए ग्रोक का उपयोग करने वाले किसी भी व्यक्ति को उसी तरह के परिणाम भुगतने होंगे जैसे कि वे अवैध सामग्री अपलोड करते हैं।”
इस बीच, डीपफेक छवियों की पीढ़ी को विनियमित करने में मंच की असमर्थता पर आलोचना की बौछार के बाद अरबपति ने अपना स्वर बदल दिया। मस्क ने शनिवार को एक सहानुभूति रखने वाले व्यक्ति की पोस्ट को दोबारा पोस्ट किया, जिसमें कहा गया था कि उत्पन्न डीपफेक छवियों के लिए एक्स को दोषी नहीं ठहराया जाना चाहिए और दोष उपयोगकर्ताओं पर होना चाहिए।
तीन अमेरिकी सीनेटरों ने भी Google और Apple को एक पत्र लिखकर उनसे शर्तों के उल्लंघन पर अपने संबंधित ऐप स्टोर से ग्रोक और एक्स ऐप्स को हटाने के लिए कहा है, जो स्पष्ट रूप से कामुक छवियों के निर्माण पर रोक लगाते हैं।
सीनेटरों ने अपने खुले पत्र में कहा, “हम यह अनुरोध करते हुए लिखते हैं कि आप महिलाओं और बच्चों की गैर-सहमति वाली यौन छवियों के बड़े पैमाने पर निर्माण के लिए एक्स कॉर्प के एक्स और ग्रोक ऐप्स के खिलाफ अपने ऐप स्टोर की सेवा की शर्तों को लागू करें। महिलाओं और बच्चों के इन हानिकारक और संभावित अवैध चित्रणों की एक्स की पीढ़ी ने आपके स्टोर की वितरण शर्तों के प्रति पूरी तरह से उपेक्षा दिखाई है।”
