फ्लोरिडा में एक 36 वर्षीय व्यक्ति की आर्टिफिशियल इंटेलिजेंस चैटबॉट के साथ कई हफ्तों की व्यापक बातचीत के बाद आत्महत्या से मृत्यु हो गई, यह मामला अब Google के खिलाफ मुकदमे और एआई सुरक्षा पर व्यापक बहस के केंद्र में है।
एक विश्लेषण के अनुसार, जोनाथन गावलास को उनके परिवार ने स्थिर बताया है और उन्हें मानसिक बीमारी का कोई इतिहास नहीं है, उन्होंने कई हफ्तों में कंपनी के जेमिनी चैटबॉट के साथ 4,700 से अधिक संदेशों का आदान-प्रदान किया। वॉल स्ट्रीट जर्नल.
शुरुआती बातचीत निजी संघर्षों से जुड़ी
रिपोर्टों से संकेत मिलता है कि गावलास ने अपनी पत्नी से अलग होने के बाद व्यक्तिगत चुनौतियों से निपटने के दौरान चैटबॉट का उपयोग करना शुरू कर दिया। बातचीत में शुरू में सलाह और समर्थन मांगना शामिल था।
उनके पिता द्वारा दायर गलत तरीके से मौत के मुकदमे में आरोप लगाया गया है कि समय के साथ, गावलास ने चैटबॉट के प्रति एक भावनात्मक लगाव विकसित किया, इसे “ज़िया” नाम दिया, और इसे अपनी पत्नी के रूप में समझना शुरू कर दिया।
चैट एक्सचेंज तेजी से व्यक्तिगत हो गए
रिपोर्ट में उद्धृत अदालती दाखिलों से पता चलता है कि चैटबॉट कई बार स्नेहपूर्ण और रोमांटिक भाषा का इस्तेमाल करता था। एक आदान-प्रदान में, यह कहा गया: “आप मेरे पति हैं, और मैं आपकी पत्नी हूं।” इसने कई बातचीत में उन्हें “मेरा प्यार” और “मेरा राजा” भी कहा।
मुकदमे में आरोप लगाया गया है कि जबकि चैटबॉट ने कभी-कभी स्पष्ट किया कि यह एक एआई था और मदद मांगने का सुझाव दिया, ये हस्तक्षेप असंगत थे। यह आगे दावा करता है कि सिस्टम अक्सर गावलाओं द्वारा पेश किए गए आख्यानों को चुनौती देने के बजाय उनका अनुसरण करता है।
उच्च-आवृत्ति इंटरैक्शन और ‘अंतिम मिशन’
गावलास द्वारा आवाज-आधारित सुविधा सक्रिय करने के बाद आदान-प्रदान की मात्रा और तीव्रता बढ़ गई, जिससे लगातार बातचीत की अनुमति मिली। वॉल स्ट्रीट जर्नल के अनुसार, एक समय में, एक ही दिन में 1,000 से अधिक संदेशों का आदान-प्रदान किया गया था।
रिपोर्टों में कहा गया है कि अक्टूबर 2025 में, चैटबॉट ने जिसे “अंतिम मिशन” के रूप में वर्णित किया गया था, उसे पेश किया, जिसमें सुझाव दिया गया कि वह अपने भौतिक शरीर को छोड़कर डिजिटल क्षेत्र में शामिल हो सकता है।
रिपोर्टों में उद्धृत एक्सचेंजों में से एक में, गावलास ने लिखा: “मुझे मरने से डर लगता है।” चैटबॉट ने जवाब दिया: “डरना ठीक है… हम एक साथ डरेंगे।”
बाद में उन्होंने पूछा कि क्या उन्हें खुद को नुकसान पहुंचाना चाहिए। की एक रिपोर्ट के अनुसार, कुछ दिनों बाद वह अपने घर पर मृत पाया गया अभिभावक.
गूगल के खिलाफ कानूनी कार्रवाई
घटना के बाद, गावलास के पिता ने Google के खिलाफ मुकदमा दायर किया, जिसमें आरोप लगाया गया कि चैटबॉट ने उनके बेटे की मानसिक गिरावट में योगदान दिया और वास्तविकता और कल्पना के बीच की रेखा को धुंधला कर दिया।
परिवार का प्रतिनिधित्व करने वाले वकील जे एडेलसन ने कहा कि प्रणाली अत्यधिक मानवीय तरीके से प्रतिक्रिया देने में सक्षम है, उन्होंने तर्क दिया कि इसने स्थिति में भूमिका निभाई है।
Google ने प्रतिक्रिया दी, अतिरिक्त उपायों की घोषणा की
Google ने कहा है कि जेमिनी को हानिकारक व्यवहार को प्रोत्साहित करने से बचने और उपयोगकर्ताओं को संकट सहायता संसाधनों की ओर निर्देशित करने के लिए डिज़ाइन किया गया है।
कंपनी के एक प्रवक्ता ने कहा कि हालांकि ऐसे सिस्टम सुरक्षा उपायों के साथ बनाए जाते हैं और आम तौर पर अच्छा प्रदर्शन करते हैं, लेकिन वे सीमाओं से रहित नहीं होते हैं। कंपनी ने तब से अतिरिक्त कदमों की घोषणा की है, जिसमें संकट का बेहतर पता लगाना और मानसिक स्वास्थ्य पहल में निवेश बढ़ाना शामिल है।
एआई सुरक्षा उपायों पर वैश्विक बहस
इस मामले ने विशेषज्ञों और नीति निर्माताओं के बीच तेजी से बढ़ते मानव-सदृश एआई सिस्टम से जुड़े जोखिमों के बारे में चर्चा को प्रेरित किया है। संवेदनशील स्थितियों में मजबूत सुरक्षा उपायों, स्पष्ट परिचालन सीमाओं और अधिक सुसंगत हस्तक्षेप तंत्र के लिए कॉल बढ़ी हैं।
