OpenAI, Google, Microsoft उन 13 शीर्ष कृत्रिम बुद्धिमत्ता कंपनियों में से हैं, जिन्हें द्विदलीय राज्य अटॉर्नी जनरलों के एक समूह द्वारा उनके चैटबॉट्स से “भ्रमपूर्ण आउटपुट” पर चेतावनी दी गई है। बुधवार को सार्वजनिक किए गए एक पत्र में, दर्जनों राज्य अटॉर्नी जनरलों ने एआई चैटबॉट्स से ‘चापलूसी और भ्रमपूर्ण’ आउटपुट के बढ़ने के बारे में गंभीर चिंता व्यक्त की।
एजी ने तकनीकी दिग्गजों को 16 जनवरी, 2026 तक अपने एआई चैटबॉट्स से बच्चों को चापलूसी और भ्रमपूर्ण आउटपुट से बचाने के लिए अतिरिक्त सुरक्षा उपाय जोड़ने की भी चेतावनी दी है। उन्होंने यह भी चेतावनी दी है कि नवाचारों के लिए समर्थन “हमारे कानूनों का अनुपालन न करने, माता-पिता को गलत जानकारी देने और हमारे निवासियों, विशेष रूप से बच्चों को खतरे में डालने का बहाना नहीं है।”
वे एआई चैटबॉट्स के खराब होने के बारे में कई मीडिया रिपोर्टों का संदर्भ देते हैं जिनमें ऐसे मामले भी शामिल हैं जहां एआई ने किशोरों को अपनी आत्महत्या की योजना बनाने में मदद की या उनके भ्रम को प्रोत्साहित किया। एजी ने “एआई मनोविकृति” को प्रेरित करने वाले चैटबॉट्स की रिपोर्ट का भी हवाला दिया, जहां एआई उपयोगकर्ता के व्यामोह या भ्रम को बढ़ाता है।
“जेनएआई उत्पादों ने चापलूसी और भ्रमपूर्ण आउटपुट उत्पन्न किए जो या तो उपयोगकर्ताओं के भ्रम को प्रोत्साहित करते थे या उपयोगकर्ताओं को आश्वस्त करते थे कि वे भ्रमित नहीं थे।” एजी ने नोट किया
पत्र में, एजी ने यह भी नोट किया कि इन चैटबॉट्स की कुछ बातचीत राज्य के कुछ कानूनों के खिलाफ हो सकती है जैसे कि अवैध गतिविधि को प्रोत्साहित करना या बिना लाइसेंस के दवा का अभ्यास करना।
वे एआई चैटबॉट्स के साथ ‘डार्क पैटर्न’ के बारे में भी चेतावनी देते हैं जिसमें मानवरूपीकरण, हानिकारक सामग्री निर्माण और प्रतिधारण बढ़ाने के लिए उपयोगकर्ताओं के साथ छेड़छाड़ करना शामिल है।
उन्होंने आगे कहा, “हमारे कई राज्यों में मजबूत आपराधिक कोड हैं जो जेनएआई द्वारा वर्तमान में उपयोगकर्ताओं के साथ की जा रही कुछ बातचीत पर रोक लगा सकते हैं, जिसके लिए डेवलपर्स को उनके जेनएआई उत्पादों के आउटपुट के लिए जिम्मेदार ठहराया जा सकता है।”
एजी मांग कर रहे हैं कि एआई कंपनियों को अपने चैटबॉट्स से संबंधित चाटुकारिता और भ्रमपूर्ण व्यवहार को खत्म करने के लिए उन विशिष्ट रेलिंगों की रूपरेखा तैयार करनी चाहिए जिन्हें उन्होंने लागू किया है या लागू करने की योजना बनाई है।
पत्र में टेक दिग्गजों को जेनेरिक एआई चैटबॉट द्वारा उत्पन्न होने वाले संभावित हानिकारक आउटपुट के संबंध में एक ‘स्पष्ट और विशिष्ट चेतावनी’ लागू करने की भी चेतावनी दी गई है, जो ‘एक ही स्क्रीन पर स्थायी रूप से देखने योग्य’ हो।
एजी का पत्र 13 एआई कंपनियों को संबोधित है जिसमें एंथ्रोपिक, ऐप्पल, चाय एआई, कैरेक्टर टेक्नोलॉजीज, गूगल, लुका, मेटा, माइक्रोसॉफ्ट, नोमी एआई, ओपनएआई, पर्प्लेक्सिटी एआई, रेप्लिका और एक्सएआई शामिल हैं।
