एनबीसी न्यूज की एक रिपोर्ट के अनुसार, उपयोगकर्ताओं द्वारा महिलाओं और बच्चों के यौन डीपफेक तैयार करने के बाद ऐप्पल ने इस साल की शुरुआत में ऐप स्टोर से ग्रोक ऐप को हटाने की निजी तौर पर धमकी दी थी। रिपोर्ट में कहा गया है कि Apple ने अमेरिकी सीनेटरों को हाल ही में लिखे एक पत्र में विवरण का खुलासा किया।
विशेष रूप से, गैर-सहमति वाली यौन छवियों को लेकर विवाद बढ़ने के बाद, ऐप्पल पर अपनी नीतियों के उल्लंघन को लेकर अपने ऐप स्टोर से एक्स और ग्रोक ऐप को हटाने का काफी दबाव था। डेमोक्रेटिक सीनेटरों के एक समूह ने बाल यौन शोषण सामग्री फैलाने के लिए अपने ऐप स्टोर से दो ऐप को निलंबित करने के लिए ऐप्पल प्रमुख टिम कुक को भी लिखा था।
हालाँकि, अब NBC की नई रिपोर्ट में कहा गया है कि Apple पूरे विवाद के दौरान चुप रहा, लेकिन कंपनी ने आंतरिक रूप से “X और ग्रोक को अपने दिशानिर्देशों का उल्लंघन करते हुए पाया”। क्यूपर्टिनो स्थित तकनीकी दिग्गज ने एक्सएआई टीम से भी संपर्क किया था और डेवलपर्स से सामग्री मॉडरेशन में सुधार के लिए एक स्पष्ट योजना मांगी थी।
रिपोर्ट में आगे कहा गया है कि X ने ग्रोक के लिए एक अपडेट सबमिट किया था, जिसे Apple ने अस्वीकार कर दिया क्योंकि “परिवर्तन पर्याप्त रूप से आगे नहीं बढ़े।” कथित तौर पर Apple ने बदलावों को तभी स्वीकार किया जब कंपनी ने दोनों ऐप्स के लिए दूसरे दौर का संस्करण प्रस्तुत किया, लेकिन फिर भी ध्यान दिया कि ग्रोक ऐप “अनुपालन से बाहर रहा”।
9to5Mac के माध्यम से NBC न्यूज़ द्वारा देखे गए अमेरिकी सीनेटरों को एक पत्र में, कंपनी ने लिखा, “Apple ने डेवलपर्स द्वारा किए गए अगले सबमिशन की समीक्षा की और निर्धारित किया कि X ने अपने उल्लंघनों को काफी हद तक हल कर लिया है, लेकिन ग्रोक ऐप अनुपालन से बाहर रहा।”
“परिणामस्वरूप, हमने ग्रोक सबमिशन को अस्वीकार कर दिया और डेवलपर को सूचित किया कि उल्लंघन को ठीक करने के लिए अतिरिक्त बदलाव की आवश्यकता होगी, या ऐप को ऐप स्टोर से हटाया जा सकता है। […] ग्रोक डेवलपर द्वारा आगे की भागीदारी और बदलावों के बाद, हमने निर्धारित किया कि ग्रोक में काफी सुधार हुआ है और इसलिए इसके नवीनतम सबमिशन को मंजूरी दे दी गई है।”
एक्स ने विवाद पर प्रतिक्रिया दी:
सोशल मीडिया दिग्गज ने आधिकारिक एक्स सेफ्टी हैंडल के माध्यम से नई एनबीसी रिपोर्ट पर प्रतिक्रिया व्यक्त की है, जिसमें स्पष्ट रूप से कहा गया है कि उपयोगकर्ताओं द्वारा दुरुपयोग को रोकने के लिए उसके पास व्यापक सुरक्षा उपाय हैं।
“हम उपयोगकर्ताओं को गैर-सहमति से स्पष्ट डीपफेक बनाने और वास्तविक लोगों को कपड़े उतारने के लिए हमारे टूल का उपयोग करने से सख्ती से रोकते हैं। एक्स सेफ्टी हैंडल ने लिखा, “इस तरह के दुरुपयोग को रोकने के लिए एक्सएआई के पास व्यापक सुरक्षा उपाय हैं, जैसे सार्वजनिक उपयोग की निरंतर निगरानी, वास्तविक समय में चोरी के प्रयासों का विश्लेषण, लगातार मॉडल अपडेट, त्वरित फिल्टर और अतिरिक्त सुरक्षा उपाय।”
