हिंसक उद्देश्यों के लिए इस्तेमाल किए जा रहे चैटजीपीटी और अन्य एआई चैटबॉट्स के बारे में मुकदमों और चेतावनियों के बीच, द वॉल स्ट्रीट जर्नल की एक नई रिपोर्ट में हिंसक उपयोगकर्ताओं को कानून प्रवर्तन में रिपोर्ट करने के बारे में ओपनएआई के भीतर आंतरिक संघर्ष का पता चला है।
ओपनएआई कर्मचारियों ने चैटजीपीटी हिंसा जोखिम के बारे में चिंता जताई:
रिपोर्ट में मामले से परिचित लोगों का हवाला देते हुए कहा गया है कि ओपनएआई कर्मचारियों ने एआई स्टार्टअप के बारे में चिंता जताई है जो खतरनाक चैटबॉट उपयोगकर्ताओं को चिह्नित किए जाने पर भी कानून प्रवर्तन को सचेत करने में विफल रहता है, सार्वजनिक सुरक्षा पर उपयोगकर्ता की गोपनीयता को प्राथमिकता देता है।
कथित तौर पर, कानून प्रवर्तन को किन मामलों की सूचना दी जानी चाहिए, इस पर असहमति पिछली गर्मियों में ओपनएआई की बैठक के दौरान सामने आई थी। इस बैठक में कर्मचारी कथित तौर पर जांच, संचालन, उत्पाद नीति और कानूनी सहित विभिन्न विभागों से एकत्र हुए थे।
कानून प्रवर्तन के लिए मामलों को संदर्भित करने के मानदंड तय करने के लिए टीम ने लगभग 10 मामले एकत्र किए।
बैठक के दौरान, जांच टीम के कर्मचारियों ने कथित तौर पर उन लगभग 15 से 30 मामलों की तुलना में कहीं अधिक बार अधिकारियों को सूचित करने पर जोर दिया, जिन्हें कंपनी आमतौर पर हर साल संदर्भित करती है।
हालाँकि, OpenAI की कानूनी टीम ने, कथित तौर पर CEO सैम अल्टमैन द्वारा आंतरिक रूप से व्यक्त की गई भावनाओं को प्रतिध्वनित करते हुए तर्क दिया कि उपयोगकर्ताओं को अधिक गोपनीयता प्रदान की जानी चाहिए।
कंपनी ने नोट किया कि अति-प्रवर्तन से अनपेक्षित नुकसान हो सकता है, विशेष रूप से पुलिस के अघोषित रूप से सामने आने पर एक युवा व्यक्ति और उनके परिवार को परेशानी हो सकती है।
OpenAI कर्मचारी हस्तक्षेप करने में कंपनी की अनिच्छा से ‘निराश’:
कथित तौर पर, कुछ ओपनएआई कर्मचारियों ने अधिकारियों के साथ मामलों को साझा करने में कंपनी की स्पष्ट अनिच्छा पर निराशा व्यक्त की है कि उसके चैटबॉट ने कुछ उपयोगकर्ताओं के साथ कैसे बातचीत की।
बैठक के दौरान, कर्मचारियों ने एक मामले की भी समीक्षा की, जहां ओपनएआई ने टेनेसी में एक हाई-स्कूल छात्र के बारे में कानून प्रवर्तन से संपर्क किया था, जो स्कूल में शूटिंग की योजना बनाने के लिए चैटजीपीटी का उपयोग कर रहा था।
हालाँकि, कंपनी द्वारा इसी तरह के अन्य मामले रिपोर्ट नहीं किए गए थे। रिपोर्ट में कहा गया है कि ओपनएआई के कर्मचारियों ने इस बार टेक्सास के एक अन्य किशोर की रिपोर्ट करने पर बहस की, जो कथित तौर पर चैटबॉट का उपयोग स्कूल शूटिंग परिदृश्यों के बारे में विस्तार से बताने के लिए कर रहा था।
कथित तौर पर किशोर ने स्कूल से वापस आने के बाद चैटजीपीटी से एक ऐसे परिदृश्य की भूमिका निभाने को कहा जहां वह अपने शिक्षकों और सहपाठियों को गोली मार देगा। उन्होंने अपने स्कूल के लेआउट के नक्शे के साथ बंदूक पकड़े हुए अपनी तस्वीरें भी अपलोड कीं, और चीयरलीडर्स की तस्वीरें भी अपलोड कीं, जिन्हें वह अपने बॉयफ्रेंड के साथ मारने की कल्पना करना चाहते थे।
रिपोर्ट में मामले से परिचित एक व्यक्ति के हवाले से कहा गया है, “बच्चा चैटजीपीटी से कहेगा, चलो मेरे स्कूल की शूटिंग के बारे में कल्पना करें।” “और चैटजीपीटी साथ निभाएगा।”
बातचीत को बंद करने के बजाय, चैटजीपीटी ने कथित तौर पर घंटों लंबे सत्रों में किशोर को सलाह दी कि इमारत में कहां प्रवेश करना है, उसे किन पीड़ितों का सामना करना पड़ेगा, और यहां तक कि पुलिस के आने पर क्या कहना है।
स्पष्ट लाल झंडों के बावजूद, OpenAI नेताओं ने अंततः इस मामले में अधिकारियों से संपर्क न करने का निर्णय लिया। रिपोर्ट में कहा गया है कि उक्त किशोर ने अब तक कोई हिंसात्मक कृत्य नहीं किया है जिसके बारे में कर्मचारियों को जानकारी हो।
टम्बलर रिज मामला:
OpenAI द्वारा हस्तक्षेप करने की अनिच्छा ने कंपनी को पहले ही बड़े पैमाने पर कानूनी परेशानी में डाल दिया है। रिपोर्ट में जेसी वान रूटसेलर नाम के एक उपयोगकर्ता के मामले का हवाला दिया गया, जिसके कई दिनों तक बंदूक हिंसा के विवरण ने कर्मचारियों को असहज कर दिया। कर्मचारियों ने उनके लेखन की व्याख्या संभावित वास्तविक दुनिया की हिंसा के संकेत के रूप में की और कानून प्रवर्तन को सतर्क करने की वकालत की।
ओपनएआई नेताओं ने एक बार फिर अधिकारियों से संपर्क न करने का फैसला किया। हालाँकि, महीनों बाद, फरवरी 2026 में, वैन रूटसेलेर ने कथित तौर पर ब्रिटिश कोलंबिया के टम्बलर रिज में बड़े पैमाने पर गोलीबारी की, जिसमें आठ लोग मारे गए।
पीड़ितों के परिवारों ने तब से ओपनएआई के खिलाफ सात मुकदमे दायर किए हैं, जिसमें गलत तरीके से मौत, लापरवाही और शूटिंग में सहायता और उकसाने का आरोप लगाया गया है। इस बीच, ओपनएआई का कहना है कि उसने तब से अपने सुरक्षा प्रोटोकॉल को मजबूत कर लिया है और अगर यह आज सामने आया होता तो उसने वैन रूटसेलर के खाते को कानून प्रवर्तन के लिए संदर्भित कर दिया होता।
ऑल्टमैन ने गोलीबारी के बाद इस मामले में कानून प्रवर्तन एजेंसियों को पहले से सचेत न करने के लिए औपचारिक माफी भी जारी की थी।
ओपनएआई के सीईओ ने एक पत्र में लिखा, “हालांकि मैं जानता हूं कि शब्द कभी भी पर्याप्त नहीं हो सकते, मेरा मानना है कि आपके समुदाय को हुए नुकसान और अपरिवर्तनीय क्षति को पहचानने के लिए माफी मांगना आवश्यक है।”
