ओपनएआई के सीईओ सैम ऑल्टमैन ने चैटजीपीटी के लिए आगामी एडल्ट मोड पर स्पष्टीकरण जारी किया है। ठीक एक दिन पहले, ऑल्टमैन ने घोषणा की थी कि चैटजीपीटी जल्द ही सत्यापित उपयोगकर्ताओं के लिए इरोटिका सहित वयस्क सामग्री की अनुमति देगा, जिसकी सोशल मीडिया पर काफी आलोचना हुई थी।
एक दिन बाद, ऑल्टमैन ने स्पष्ट किया कि इरोटिका उदाहरण का मतलब केवल यह उदाहरण देना था कि कैसे चैटजीपीटी वयस्क उपयोगकर्ताओं को अधिक स्वतंत्रता की अनुमति देगा, जबकि यह ध्यान दिया कि कंपनी ‘दुनिया की निर्वाचित नैतिक पुलिस’ नहीं है।
”चैटजीपीटी में आने वाले बदलावों के बारे में यह ट्वीट जितना मैंने सोचा था उससे कहीं अधिक कामुकता बिंदु पर उड़ा दिया गया था! यह वयस्कों के लिए अधिक उपयोगकर्ता स्वतंत्रता की अनुमति देने का सिर्फ एक उदाहरण था,” ऑल्टमैन ने एक्स पर एक पोस्ट में उल्लेख किया।
उन्होंने आगे कहा, “हम मानसिक स्वास्थ्य से संबंधित किसी भी नीति में ढील नहीं दे रहे हैं। यह एक नई और शक्तिशाली तकनीक है, और हमारा मानना है कि नाबालिगों को महत्वपूर्ण सुरक्षा की आवश्यकता है। हम वयस्क उपयोगकर्ताओं के साथ वयस्कों की तरह व्यवहार करने के सिद्धांत का भी बहुत ध्यान रखते हैं।”
ऑल्टमैन ने कहा कि ओपनएआई अभी भी उन चीजों की अनुमति नहीं देगा जो दूसरों को नुकसान पहुंचाएंगी और मानसिक स्वास्थ्य संकट वाले उपयोगकर्ताओं के साथ बहुत अलग व्यवहार करेगी। उन्होंने यह भी कहा कि पितृसत्तात्मक हुए बिना, कंपनी उपयोगकर्ताओं को उनके दीर्घकालिक लक्ष्य हासिल करने में मदद करने का प्रयास करेगी।
उन्होंने आगे कहा, “हम दुनिया की चुनी हुई नैतिक पुलिस नहीं हैं। जिस तरह से समाज अन्य उचित सीमाओं (उदाहरण के लिए आर-रेटेड फिल्में) को अलग करता है, उसी तरह हम यहां भी ऐसा ही करना चाहते हैं।”
अपनी पिछली पोस्ट में, ऑल्टमैन ने स्वीकार किया था कि ओपनएआई ने उपयोगकर्ताओं को मानसिक स्वास्थ्य जोखिमों से बचाने के लिए चैटजीपीटी को “काफी प्रतिबंधात्मक” बना दिया था, लेकिन इस दृष्टिकोण ने चैटबॉट को “कई उपयोगकर्ताओं के लिए कम उपयोगी/आनंददायक बना दिया, जिन्हें कोई मानसिक स्वास्थ्य समस्या नहीं थी।”
उन्होंने यह भी कहा था कि ओपनएआई अब “गंभीर मानसिक स्वास्थ्य मुद्दों को कम करने और नए टूल लाने में सक्षम हो गया है” और उन्हें “ज्यादातर मामलों में प्रतिबंधों को सुरक्षित रूप से शिथिल करने” की अनुमति देगा।
एआई स्टार्टअप ने इस महीने की शुरुआत में घोषणा की थी कि जब उपयोगकर्ताओं को नाबालिग के रूप में पहचाना जाता है तो वह स्वचालित रूप से किशोर-उपयुक्त सेटिंग्स लागू करने के लिए आयु भविष्यवाणी तकनीक विकसित कर रहा है। अधिक प्रत्यक्ष नियंत्रण के लिए माता-पिता भी अपने खातों को किशोरों के खातों से जोड़ सकते हैं और जब सिस्टम को पता चलता है कि उनका किशोर संकट में है तो सूचनाएं प्राप्त कर सकते हैं।
एआई और वयस्क सामग्री:
एआई चैटबॉट के अंदर वयस्क सामग्री के विषय पर, ऑल्टमैन ने कहा था कि कार्यक्षमता ऑप्ट-इन होगी और उपयोगकर्ताओं को “जब तक आप इसके लिए नहीं पूछेंगे, यह नहीं मिलेगा।”
विशेष रूप से, इरोटिका के लिए एआई का उपयोग हाल के कुछ हफ्तों/महीनों में एआई क्षेत्र में एक गर्मागर्म विवादित विषय रहा है। मेटा को हाल ही में सोशल मीडिया पर आलोचना का सामना करना पड़ा था जब उपयोगकर्ताओं ने इंस्टाग्राम पर “स्टेप मॉम” और “रशियन गर्ल” जैसे कामुक चैटबॉट देखने की सूचना दी थी। इस बीच, एलोन मस्क को अपने ग्रोक एआई के एनी चरित्र पर भी आलोचना का सामना करना पड़ रहा है, जो एक गोरा, गॉथ-एनीमे-शैली अवतार में आया था और एनएसएफडब्ल्यू मोड में उत्तेजक भाषा का उपयोग करते हुए अधोवस्त्र में दिखाई दिया था।
ग्रोक एआई का उपयोग कामुक सामग्री बनाने के लिए भी किया गया है जिसे पिछले कुछ हफ्तों में एक्स पर प्रमुखता से साझा किया गया है।
