रॉयटर्स की एक नई रिपोर्ट के अनुसार, चैटजीपीटी पर हिंसक चरमपंथी प्रवृत्ति दिखाने वाले लोगों को जल्द ही एक नए टूल के माध्यम से मानव और चैटबॉट-आधारित कट्टरपंथ समर्थन के लिए निर्देशित किया जा सकता है, जो वर्तमान में न्यूजीलैंड में विकास के अधीन है। ऐसा कहा जाता है कि इस टूल का उद्देश्य ऑनलाइन एआई टूल के उपयोग के संबंध में बढ़ती सुरक्षा चिंताओं को संबोधित करना है।
टूल के पीछे कौन है?
कथित तौर पर, टूल थ्रूलाइन द्वारा विकसित किया जा रहा है, एक स्टार्टअप जिसे ओपनएआई, एंथ्रोपिक और Google जैसी कंपनियों ने पहले उपयोगकर्ताओं को आत्म-नुकसान, घरेलू हिंसा, या खाने के विकारों के लिए चिह्नित किए जाने पर संकट सहायता के लिए पुनर्निर्देशित करने के लिए काम पर रखा है।
थ्रूलाइन के संस्थापक इलियट टेलर ने रॉयटर्स को बताया कि कंपनी वर्तमान में हिंसक चरमपंथ को रोकने के लिए अपनी पेशकशों को व्यापक बनाने के तरीके तलाश रही है।
ऐसा कहा जाता है कि स्टार्टअप द क्राइस्टचर्च कॉल के साथ भी चर्चा कर रहा है, जो 2019 न्यूजीलैंड आतंकवादी हमलों के बाद बनाई गई एक चरमपंथ विरोधी पहल है। कथित तौर पर समूह मार्गदर्शन प्रदान करेगा जबकि थ्रूलाइन हस्तक्षेप चैटबॉट विकसित करेगा।
टेलर ने कहा, “यह कुछ ऐसा है जिस पर हम आगे बढ़ना चाहते हैं और कवर करने का बेहतर काम करना चाहते हैं और फिर प्लेटफार्मों को बेहतर समर्थन देने में सक्षम होना चाहते हैं।”
ओपनएआई ने कथित तौर पर थ्रूलाइन के साथ अपने रिश्ते की पुष्टि की है, जबकि Google और एंथ्रोपिक ने टिप्पणी के लिए रॉयटर्स के अनुरोधों का जवाब नहीं दिया।
टूल कैसे काम करता है?
कंपनी ग्रामीण न्यूजीलैंड में टेलर के घर से चलती है और कहा जाता है कि यह 180 देशों में 1,600 हेल्पलाइनों के लगातार जांचे जाने वाले नेटवर्क के साथ एआई फर्मों के लिए पसंदीदा बन गई है।
एक बार जब एआई संभावित संकट के संकेतों का पता लगाता है, तो यह उपयोगकर्ता को थ्रूलाइन पर ले जाता है, जो उन्हें पास में उपलब्ध मानव-संचालित सेवा से मिलाता है।
टेलर ने कहा कि चरमपंथ-विरोधी उपकरण संभवतः एक हाइब्रिड मॉडल होगा, जो उन लोगों को जवाब देने के लिए प्रशिक्षित चैटबॉट का संयोजन होगा, जो चरमपंथ के लक्षण दिखाते हैं और वास्तविक दुनिया की मानसिक स्वास्थ्य सेवाओं के लिए रेफरल करते हैं।
चरमपंथ विरोधी उपकरण के लिए, टेलर का कहना है कि उत्पाद संभवतः एक हाइब्रिड मॉडल होगा जो चरमपंथ के लक्षण दिखाने वाले उपयोगकर्ताओं और वास्तविक दुनिया की मानसिक स्वास्थ्य सेवाओं के रेफरल को जवाब देने के लिए प्रशिक्षित चैटबॉट का संयोजन होगा।
टेलर का कहना है कि कंपनी “बेस एलएलएम के प्रशिक्षण डेटा” का उपयोग नहीं करेगी। इसके बजाय, उनका कहना है कि यह सिस्टम को प्रशिक्षित करने के लिए सीधे “सही विशेषज्ञों” के साथ काम कर रहा है।
उनका यह भी कहना है कि खतरनाक उपयोगकर्ताओं के बारे में अधिकारियों को संभावित अलर्ट जैसी अनुवर्ती सुविधाएं अभी भी निर्धारित की जानी हैं और बढ़ते व्यवहार के जोखिम को ध्यान में रखते हुए निर्णय लिया जाएगा। टेलर ने यह भी कहा कि संकट में फंसे लोग ऐसी बातें ऑनलाइन साझा करते हैं जिन्हें किसी व्यक्ति से कहने में उन्हें शर्म आती है। उन्होंने कहा, इस परिदृश्य में, सरकारों को शामिल करने से खतरा और बढ़ने का जोखिम ही होगा।
