मेटा ने कहा कि वह चाहता है कि उसके किशोर उपयोगकर्ताओं को कृत्रिम बुद्धिमत्ता (एआई) के साथ “आयु-उपयुक्त अनुभव” मिले, जबकि नई सुरक्षात्मक सुविधाओं के एक सूट की घोषणा करते हुए, संकट के क्षणों के दौरान माता-पिता को सूचित रखा जाएगा।
टेक दिग्गज ने कहा कि इसका नवीनतम अपडेट आत्महत्या और खुद को नुकसान पहुंचाने से संबंधित संवेदनशील बातचीत को प्रबंधित करने और माता-पिता और संभावित आपातकालीन सेवा हस्तक्षेपों के लिए सक्रिय अलर्ट पेश करने पर केंद्रित है।
मेटा ने कहा, “इसका मतलब किशोरों की भावनाओं को स्वीकार करते हुए उन्हें आवश्यक ऑफ़लाइन सहायता प्राप्त करने में मदद करना है – चाहे वह माता-पिता से हो, पेशेवर हेल्पलाइन से हो, या आपातकालीन सेवाओं से हो।”
सक्रिय अभिभावक सूचनाएं
पहले, जब कोई किशोर आत्महत्या के विचार व्यक्त करता था, तो मेटा एआई उन्हें संकटकालीन हेल्पलाइनों पर निर्देशित करता था और उन्हें एक विश्वसनीय वयस्क से बात करने के लिए प्रोत्साहित करता था। अब, मंच ने कहा कि वह अधिक सक्रिय भूमिका निभा रहा है।
सुरक्षा विशेषज्ञों के साथ विकसित एक समर्पित एआई प्रणाली का उपयोग करते हुए, मेटा ने कहा कि यह निगरानी करने वाले माता-पिता को सक्रिय रूप से सूचित करेगा यदि उनके किशोरों की चैट संभावित जोखिम का संकेत देती है – भले ही आत्म-नुकसान के संदर्भ सूक्ष्म हों।
मेटा ने कहा, “हमने माता-पिता और विशेषज्ञों के साथ यह समझने के लिए काम किया कि कौन सी एआई बातचीत में अलर्ट की आवश्यकता होती है – जैसे कि जहां एक किशोर खुद को चोट पहुंचाने का स्पष्ट संदर्भ देता है, भले ही वह संदर्भ सूक्ष्म हो।”
इन अलर्ट के कारण होने वाली परेशानी को पहचानते हुए, मेटा ने कहा कि उसने एक सख्त स्क्रीनिंग प्रक्रिया शुरू की है। एआई द्वारा चिह्नित प्रत्येक चैट की “अलर्ट भेजे जाने से पहले मैन्युअल रूप से समीक्षा की जाएगी।”
यदि समीक्षा के बाद किसी किशोर का इरादा अस्पष्ट रहता है, तो मेटा ने कहा कि यह सावधानी बरतने में गलती करेगा और अलर्ट जारी करेगा। “हालांकि इसका मतलब है कि हम कभी-कभी माता-पिता को सूचित कर सकते हैं जब चिंता का कोई वास्तविक कारण नहीं हो सकता है, हमें लगता है कि यह सही शुरुआती बिंदु है, और हम यह सुनिश्चित करने में मदद के लिए निगरानी करना जारी रखेंगे कि हम सही जगह पर हैं।”
कनेक्टसेफली के सीईओ और सह-संस्थापक लैरी मैगिड ने कहा कि उनका मानना है कि किशोरों को निजता का अधिकार है, “मेरा यह भी मानना है कि माता-पिता को सूचित किया जाना चाहिए कि क्या उनके किशोरों को खुद को चोट पहुंचाने का खतरा हो सकता है।”
मैगिड ने कहा, “इसीलिए मैंने इस दृष्टिकोण की वकालत की है और माता-पिता को सूचित करने के मेटा के फैसले का समर्थन करता हूं, जब सावधानीपूर्वक समीक्षा के बाद यह निर्धारित होता है कि मेटा एआई के साथ बातचीत में संभावित आत्महत्या या खुद को नुकसान पहुंचाने के संकेत हैं, जिसके लिए अलर्ट की आवश्यकता होती है।” “मैं सराहना करता हूं कि मेटा ने कैसे सही संतुलन बनाया; किशोरों की गोपनीयता की रक्षा करते हुए यह सुनिश्चित किया कि माता-पिता के पास अपने किशोरों का समर्थन करने के लिए आवश्यक जानकारी हो।”
वर्तमान में, ये अलर्ट यूएस, यूके, ऑस्ट्रेलिया और कनाडा में इंस्टाग्राम के अभिभावकीय पर्यवेक्षण टूल का उपयोग करने वाले माता-पिता के लिए लाइव हैं।
मेटा ने कहा कि यह सुविधा जल्द ही वर्ष के अंत तक वैश्विक स्तर पर शुरू कर दी जाएगी, जब किशोर बार-बार इंस्टाग्राम पर आत्म-नुकसान संबंधी शब्दों की खोज करते हैं तो मौजूदा अलर्ट चालू हो जाते हैं।
आपातकालीन सेवा एकीकरण
माता-पिता के अलर्ट से परे, मेटा ने कहा कि यदि कोई उपयोगकर्ता, किशोर या वयस्क, अपने मेटा एआई वार्तालापों में आत्महत्या का आसन्न जोखिम दिखाता है तो वह आपातकालीन सेवाओं से संपर्क करने की क्षमता विकसित कर रहा है।
यह फेसबुक और इंस्टाग्राम पर मेटा के मौजूदा प्रोटोकॉल पर विस्तार करता है, जिसके परिणामस्वरूप पिछले साल प्रथम उत्तरदाताओं द्वारा कल्याण जांच के लिए 19,000 से अधिक वैश्विक रेफरल प्राप्त हुए।
इन महत्वपूर्ण क्षणों में एआई की हैंडलिंग को परिष्कृत करने के लिए, मेटा ने कहा कि उसने अपने एआई वेलबीइंग एक्सपर्ट काउंसिल और युवा सलाहकारों के साथ-साथ किशोर मनोविज्ञान में विशेषज्ञता वाले 75 से अधिक मानसिक स्वास्थ्य चिकित्सकों से परामर्श किया।
मेटा ने कहा, इन विशेषज्ञों ने सैकड़ों एआई प्रतिक्रियाओं की समीक्षा की ताकि यह सुनिश्चित किया जा सके कि चैटबॉट ऑफ़लाइन समर्थन के लिए निर्देशित करने से पहले बातचीत को अचानक बंद करने के बजाय उपयोगकर्ता की भावनाओं को उचित रूप से स्वीकार करता है।
लाइसेंस प्राप्त मनोवैज्ञानिक और हनकुक यूनिवर्सिटी ऑफ फॉरेन स्टडीज में काउंसलिंग साइकोलॉजी के प्रोफेसर डॉ. जी-योन ली ने इस पहल की सराहना करते हुए कहा, “मैं मेटा की नैदानिक समीक्षा प्रक्रिया की कठोरता से प्रभावित हुआ था।”
“इसने न केवल आत्महत्या और खुद को नुकसान पहुंचाने वाली चिंताओं पर तत्काल प्रतिक्रियाओं की जांच की, बल्कि व्यापक बातचीत के संदर्भ, उचित अनुवर्ती कार्रवाई और जोखिम के विभिन्न स्तरों की भी जांच की जो उच्च जोखिम वाली स्थितियों में भी मौजूद हो सकते हैं। किशोरों के लिए एआई अनुभवों को सुरक्षित बनाने के लिए इस तरह की विशेषज्ञ-सूचित, परिदृश्य-आधारित परिशोधन आवश्यक है,” ली ने कहा।
सख्त सामग्री सीमाएँ
इसके अलावा, मेटा अपने सामग्री नियंत्रण का विस्तार कर रहा है।
जबकि किशोर खातों में पहले से ही 13+ सेटिंग डिफ़ॉल्ट है जो एआई को यौन या रोमांटिक विषयों पर चर्चा करने या शराब व्यंजन प्रदान करने से प्रतिबंधित करती है, माता-पिता अब एक सख्त “सीमित सामग्री” सेटिंग सक्रिय कर सकते हैं।
पहली बार अक्टूबर में इंस्टाग्राम के लिए घोषणा की गई, यह ऑप्ट-इन सुविधा अब सीधे मेटा एआई पर लागू होगी, जिससे चैटबॉट को संकेतों की एक विस्तृत श्रृंखला को अस्वीकार करने के लिए मजबूर होना पड़ेगा और अनुचित इंटरैक्शन की संभावना काफी कम हो जाएगी।
