शुक्रवार को कैलिफोर्निया के अटॉर्नी जनरल रॉब बोंटा द्वारा एक्सएआई को एक संघर्ष विराम पत्र भेजा गया है, जिसमें मांग की गई है कि कंपनी अपने ग्रोक एआई चैटबॉट के साथ एआई-जनरेटेड गैर-सहमति वाली कामुक छवियों को बनाना और वितरित करना बंद कर दे।
बोंटा ने एक विज्ञप्ति में कहा, “आज, मैंने एक्सएआई को एक संघर्ष विराम पत्र भेजा, जिसमें कंपनी से डीपफेक, गैर-सहमति, अंतरंग छवियों और बाल यौन शोषण सामग्री के निर्माण और वितरण को तुरंत रोकने की मांग की गई। इस सामग्री का निर्माण अवैध है। मुझे पूरी उम्मीद है कि एक्सएआई तुरंत इसका अनुपालन करेगा। कैलिफ़ोर्निया में बाल यौन शोषण सामग्री के लिए शून्य सहिष्णुता है।”
उन्होंने आगे कहा, “इस सामग्री का विवरण देने वाली रिपोर्टों की बाढ़ – कभी-कभी महिलाओं और बच्चों को यौन गतिविधियों में शामिल दर्शाती है – चौंकाने वाली है और, जैसा कि मेरे कार्यालय ने निर्धारित किया है, संभावित रूप से अवैध है।”
पिछले कुछ हफ्तों में, कंपनी के ग्रोक चैटबॉट द्वारा उपयोगकर्ताओं की सहमति के बिना उनकी गैर-सहमति वाली डीपफेक कामुक छवियां बनाना शुरू करने के बाद xAI वैश्विक नियामक दबाव में आ गया है। कंपनी ने पहले यह रुख अपनाया था कि उसके चैटबॉट के साथ गैरकानूनी सामग्री उत्पन्न करने के लिए उपयोगकर्ताओं को उत्तरदायी ठहराया जाना चाहिए और यहां तक कि ऐसे उपयोगकर्ताओं के लिए कानूनी परिणामों की चेतावनी भी दी जानी चाहिए। हालाँकि, यह हाल ही में आगे बढ़ा और एक्स पर ग्रोक खातों को खुले कपड़ों में वास्तविक लोगों की छवि संपादन की अनुमति देने से रोकने के उपाय लागू किए।
एक्स ने कंपनी के सुरक्षा खाते से एक पोस्ट में कहा था, “हम अपने एक्स नियमों का उल्लंघन करने वाले खातों के खिलाफ उचित कार्रवाई करते हुए, बाल यौन शोषण सामग्री (सीएसएएम) और गैर-सहमति वाली नग्नता सहित उच्च प्राथमिकता वाली उल्लंघनकारी सामग्री को हटाने के लिए कार्रवाई करते हैं। हम बाल यौन शोषण सामग्री की मांग करने वाले खातों की रिपोर्ट भी आवश्यकतानुसार कानून प्रवर्तन अधिकारियों को करते हैं।”
ग्रोक के मुद्दों के कारण चैटबॉट ऐप पहले ही मलेशिया और इंडोनेशिया में अवरुद्ध हो चुका है। इस बीच, भारतीय नियामकों ने भी कंपनी से जवाब मांगा है, जबकि यूके के मंत्रियों ने खुले तौर पर कहा है कि अगर कंपनी ने ग्रोक की कामुक छवि निर्माण की श्रृंखला को रोकने के लिए उपाय नहीं किए तो एक्स के लिए परिणाम होंगे।
यहां तक कि मस्क के बच्चों में से एक की मां, राजनीतिक टिप्पणीकार एशले सेंट क्लेयर ने भी xAI पर उनके यौन गैर-सहमति वाले डीपफेक तैयार करने के लिए इस्तेमाल किए जाने का आरोप लगाया है।
हालाँकि, यह पहली बार नहीं है कि ग्रोक विवादों में आया है। चैटबॉट ने इस साल की शुरुआत में यहूदी विरोधी नफरत फैलाने वाला उन्माद फैलाया था, जहां उसने एडॉल्फ हिटलर की प्रशंसा भी की थी। बाद में चैटबॉट ने यह भी दावा किया कि उसका उपनाम “हिटलर” था। ग्रोक ने मस्क को तब भी अछूता नहीं छोड़ा जब अमेरिका के लिए सबसे खतरनाक लोगों की सूची में उनका नाम डोनाल्ड ट्रंप और जेडी वेंस के साथ रखा गया।
