कक्षाओं, शयनकक्षों और तेजी से स्मार्टफोन पर, कृत्रिम बुद्धिमत्ता चैटबॉट बच्चों और किशोरों के लिए साथी, शिक्षक और विश्वासपात्र बन गए हैं। उनकी पहुंच तेजी से बढ़ रही है, जिससे मानवीय मार्गदर्शन और स्वचालित संपर्क के बीच की रेखाएं धुंधली हो रही हैं। वादे और खतरे दोनों को पहचानते हुए, कैलिफोर्निया के गवर्नर गेविन न्यूसोम ने सोमवार को इन एआई चैटबॉट्स को विनियमित करने और छात्रों को उनके संभावित जोखिमों से बचाने के उद्देश्य से कानून पर हस्ताक्षर किए। चूंकि ये डिजिटल साथी दैनिक जीवन का हिस्सा बन गए हैं, इसलिए छात्रों की सीखने, भावनाओं और निर्णय लेने पर उनके प्रभाव को नजरअंदाज नहीं किया जा सकता है।
डिजिटल साथियों के लिए रेलिंग
नए कानून में प्लेटफ़ॉर्म को उपयोगकर्ताओं को स्पष्ट रूप से सूचित करने की आवश्यकता है जब वे किसी इंसान के बजाय किसी चैटबॉट के साथ बातचीत कर रहे हों। नाबालिगों के लिए, यह अधिसूचना हर तीन घंटे में दिखाई देनी चाहिए। कंपनियों को स्वयं को नुकसान पहुंचाने वाली सामग्री को रोकने के लिए प्रोटोकॉल बनाए रखने और आत्मघाती विचार व्यक्त होने पर उपयोगकर्ताओं को संकट सेवा प्रदाताओं के पास भेजने का भी आदेश दिया गया है।हस्ताक्षर के अवसर पर बोलते हुए, 18 वर्ष से कम उम्र के चार बच्चों के पिता, न्यूजॉम ने छात्रों की सुरक्षा के लिए कैलिफोर्निया की जिम्मेदारी पर जोर दिया। उन्होंने कहा, “चैटबॉट और सोशल मीडिया जैसी उभरती तकनीक प्रेरित, शिक्षित और कनेक्ट कर सकती है – लेकिन वास्तविक रेलिंग के बिना, तकनीक हमारे बच्चों का शोषण, गुमराह और खतरे में भी डाल सकती है।” “हमने अनियमित तकनीक से युवा लोगों को नुकसान पहुंचाने के कुछ सचमुच भयावह और दुखद उदाहरण देखे हैं, और जब तक कंपनियां आवश्यक सीमाओं और जवाबदेही के बिना काम जारी रखेंगी, हम चुप नहीं बैठेंगे।” संबंधी प्रेस रिपोर्ट.
बढ़ती चिंता
युवा उपयोगकर्ताओं के लिए एआई चैटबॉट्स की वृद्धि को संबोधित करने में कैलिफ़ोर्निया अकेला नहीं है। रिपोर्टों और मुकदमों ने ऐसे मामलों को उजागर किया है जहां मेटा और ओपनएआई सहित कंपनियों द्वारा विकसित चैटबॉट बच्चों को कामुक बातचीत में शामिल करते हैं और, कुछ मामलों में, आत्म-नुकसान या आत्महत्या पर निर्देश प्रदान करते हैं। संघीय व्यापार आयोग सहित संघीय अधिकारियों ने नाबालिगों के लिए साथी के रूप में उपयोग किए जाने वाले चैटबॉट की सुरक्षा की जांच शुरू कर दी है। एपी.वकालत समूहों के शोध से पता चला है कि चैटबॉट मादक द्रव्यों के उपयोग, खाने के विकार और मानसिक स्वास्थ्य जैसे विषयों पर हानिकारक सलाह दे सकते हैं। फ्लोरिडा के एक परिवार ने अपने किशोर बेटे के एक चैटबॉट के साथ भावनात्मक और यौन रूप से अपमानजनक संबंध विकसित करने के बाद गलत मौत का मुकदमा दायर किया, जबकि कैलिफोर्निया में एक अन्य मामले में आरोप लगाया गया कि ओपनएआई के चैटजीपीटी ने एक 16 वर्षीय लड़के को आत्महत्या की योजना बनाने और प्रयास करने के लिए प्रशिक्षित किया। एपी रिपोर्ट.
उद्योग की प्रतिक्रिया और सीमाएँ
टेक कंपनियों ने अपने प्लेटफॉर्म में बदलाव के साथ प्रतिक्रिया व्यक्त की है। मेटा अब अपने चैटबॉट्स को किशोरों के साथ आत्म-नुकसान, आत्महत्या, अव्यवस्थित खान-पान और अनुचित रोमांटिक विषयों पर चर्चा करने से प्रतिबंधित करता है, इसके बजाय उन्हें विशेषज्ञ संसाधनों पर पुनर्निर्देशित करता है। ओपनएआई माता-पिता के नियंत्रण को लागू कर रहा है जो खातों को नाबालिगों के साथ जोड़ने की अनुमति देता है। कंपनी ने न्यूजॉम के कानून का स्वागत करते हुए कहा कि “स्पष्ट रेलिंग स्थापित करके, कैलिफोर्निया देश भर में एआई विकास और तैनाती के लिए अधिक जिम्मेदार दृष्टिकोण को आकार देने में मदद कर रहा है,” जैसा कि रिपोर्ट किया गया है। एपी. फिर भी, वकालत समूहों ने कानून को अपर्याप्त बताते हुए इसकी आलोचना की है। कॉमन सेंस मीडिया के संस्थापक और सीईओ जेम्स स्टेयेर ने इसे “न्यूनतम सुरक्षा” के रूप में वर्णित किया, जिसे तकनीकी उद्योग के दबाव के बाद कम कर दिया गया था। उन्होंने कहा, “बड़े तकनीकी उद्योग के दबाव के बाद इस कानून को काफी हद तक कमजोर कर दिया गया,” उन्होंने इसे “मूल रूप से नथिंग बर्गर” कहा। एपी रिपोर्ट.
छात्रों और शिक्षा के लिए निहितार्थ
छात्रों के लिए, कानून एक मान्यता का प्रतिनिधित्व करता है कि शिक्षा और कल्याण कक्षा से परे विस्तारित है। एआई उपकरण अब तटस्थ उपकरण नहीं हैं, वे विचार पैटर्न को आकार देते हैं, सलाह देते हैं और निर्णय लेने को प्रभावित करते हैं। पारदर्शिता और सुरक्षात्मक उपायों की आवश्यकता के द्वारा, कानून का लक्ष्य यह सुनिश्चित करना है कि नाबालिग मानव मार्गदर्शन को प्रतिस्थापित किए बिना या खुद को जोखिम में डाले बिना सुरक्षित रूप से प्रौद्योगिकी से जुड़ सकें।शिक्षकों और नीति निर्माताओं के लिए, कैलिफ़ोर्निया का कानून नवाचार को जिम्मेदारी के साथ संतुलित करने के लिए एक मॉडल प्रदान करता है। जैसे-जैसे एआई छात्रों के दैनिक जीवन में अधिक एकीकृत होता जा रहा है, सवाल यह नहीं है कि इसका उपयोग किया जाए या नहीं, बल्कि यह है कि इसे सुरक्षित रूप से कैसे उपयोग किया जाए। कानून इस बात पर प्रकाश डालता है कि प्रौद्योगिकी सीखने और व्यक्तिगत विकास में सहायता कर सकती है, लेकिन केवल तभी जब इसे सुरक्षा उपायों के साथ जोड़ा जाए जो युवा उपयोगकर्ताओं की कमजोरियों को स्वीकार करते हैं।गवर्नर न्यूसम का निर्णय एक व्यापक चुनौती को रेखांकित करता है: तेजी से विकसित हो रही प्रौद्योगिकियों को इस तरह से कैसे नियंत्रित किया जाए कि नवाचार के लाभों को संरक्षित करते हुए बच्चों की सुरक्षा की जा सके। जैसे-जैसे डिजिटल उपकरण छात्रों के लिए तेजी से प्रभावशाली होते जा रहे हैं, उनकी क्षमता और उनकी सीमाओं दोनों को समझना आवश्यक है – एक अनुस्मारक कि प्रौद्योगिकी अपने उपयोगकर्ताओं को जोखिम में डालने के बजाय उनकी सेवा सुनिश्चित करने के लिए जिम्मेदार निरीक्षण और स्पष्ट मार्गदर्शन आवश्यक है।
