मेटा ने शुक्रवार को घोषणा की कि वह वैश्विक स्तर पर अपने ऐप्स में अपने एआई कैरेक्टर्स तक किशोरों की पहुंच को रोक रहा है। प्रतिबंध स्वयं ‘अस्थायी’ है और यह न केवल उन लोगों पर लागू होगा जिनका जन्मदिन किशोर है, बल्कि उन उपयोगकर्ताओं पर भी लागू होगा जो वयस्क होने का दावा करते हैं लेकिन कंपनी की आयु भविष्यवाणी तकनीक के अनुसार किशोर होने का संदेह है।
नए प्रतिबंध के साथ, किशोर अब कस्टम-निर्मित मेटा एआई वर्णों तक नहीं पहुंच पाएंगे। हालाँकि, उनके पास अभी भी ‘डिफ़ॉल्ट, आयु-उपयुक्त सुरक्षा’ के साथ मानक मेटा एआई सहायक तक पहुंच होगी। टेक दिग्गज ने कहा कि वह माता-पिता को उनके किशोरों द्वारा चैटबॉट के साथ की जाने वाली बातचीत तक पहुंच प्रदान करने की भी योजना बना रही है।
मेटा ने अक्टूबर में घोषणा की थी कि वह माता-पिता को इस बात की अधिक दृश्यता देने के लिए नए टूल का निर्माण कर रहा है कि किशोर एआई का उपयोग कैसे करते हैं और एआई वर्णों पर नियंत्रण कैसे रखते हैं जिनके साथ वे बातचीत कर सकते हैं। कंपनी ने शुक्रवार को उसी ब्लॉग पोस्ट को अपडेट करते हुए किशोरों के एआई वर्णों तक पहुंच पर नए प्रतिबंधों की घोषणा की।
“आने वाले हफ्तों में, अद्यतन अनुभव तैयार होने तक किशोर हमारे ऐप्स पर एआई वर्णों तक नहीं पहुंच पाएंगे। यह उन लोगों पर लागू होगा जिन्होंने हमें किशोर जन्मदिन दिया है, साथ ही ऐसे लोग जो वयस्क होने का दावा करते हैं लेकिन हमारी आयु भविष्यवाणी तकनीक के आधार पर हमें संदेह है कि वे किशोर हैं।
इसका मतलब यह है कि, जब हम माता-पिता को अपने किशोरों के एआई अनुभवों की अधिक निगरानी देने के अपने वादे को पूरा करते हैं, तो माता-पिता का नियंत्रण एआई पात्रों के नवीनतम संस्करण पर लागू होगा, ”कंपनी ने कहा।
इस बीच, एआई वर्णों तक बच्चों की पहुंच पर मेटा का पाठ्यक्रम सुधार तब आया है जब कंपनी टिकटॉक और यूट्यूब के साथ लॉस एंजिल्स में मुकदमे का सामना करने के लिए तैयार है, कि कैसे उनके ऐप्स ने बच्चों को नुकसान पहुंचाया है।
वायर्ड की रिपोर्ट के अनुसार, एक अलग उदाहरण में, मेटा ने सोशल मीडिया और युवाओं के मानसिक स्वास्थ्य से संबंधित कुछ शोध अध्ययनों और लेखों, किशोर आत्महत्या और सोशल मीडिया सामग्री से जुड़े एक हालिया हाई-प्रोफाइल मामले और हार्वर्ड विश्वविद्यालय के छात्र के रूप में मार्क जुकरबर्ग के समय के संदर्भ को बाहर करने के लिए मुकदमे से पहले न्यू मैक्सिको में न्यायाधीश से याचिका दायर की है।
मेटा प्रतिद्वंद्वी जो बाल सुरक्षा सुविधाएँ भी डालते हैं:
विशेष रूप से, मेटा प्रतिद्वंद्वी ओपनएआई ने हाल ही में बच्चों के लिए संवेदनशील सामग्री तक पहुंच को प्रतिबंधित करने के लिए चैटजीपीटी के लिए आयु भविष्यवाणी तकनीक भी शुरू की थी। मेटा के समान, चैटजीपीटी निर्माता ने अपने चैटबॉट द्वारा नाबालिगों को आत्महत्या की ओर प्रेरित करने से संबंधित विभिन्न मुकदमों का सामना करने के बाद चैटबॉट के अंदर माता-पिता के नियंत्रण की घोषणा की थी।
इसी तरह, कैरेक्टर.एआई ने भी 18 साल से कम उम्र के उपयोगकर्ताओं के अपने चैटबॉट तक पहुंचने पर प्रतिबंध लगाने की घोषणा की थी। कंपनी को बच्चों की सुरक्षा को लेकर कई मुकदमों का सामना करना पड़ा था, जिसमें एक किशोर की मां भी शामिल थी, जिसने कहा था कि चैटबॉट्स ने उसके 14 वर्षीय बेटे को आत्महत्या करने के लिए प्रेरित किया था।
