जोसेफ वेइज़ेनबाम ने यह साबित करने का प्रयास किया कि कंप्यूटर बातचीत की नकल कर सकते हैं। इसके बजाय, उनके प्रयोग ने उन्हें आश्वस्त किया कि लोग उनकी कल्पना से कहीं अधिक आसानी से मशीनों से भावनात्मक रूप से जुड़ सकते हैं। उस खोज ने उनके करियर की दिशा बदल दी।कंप्यूटर वैज्ञानिक, जिन्होंने 1960 के दशक के मध्य में दुनिया का पहला चैटबॉट बनाया था, ने अपना शेष जीवन यह चेतावनी देते हुए बिताया कि कृत्रिम बुद्धिमत्ता (एआई) को कभी भी मानवीय निर्णय, सहानुभूति या जिम्मेदारी की जगह नहीं लेनी चाहिए। चैटजीपीटी और अन्य आधुनिक एआई सिस्टम से दशकों पहले, वेइज़ेनबाम ने तर्क दिया था कि आश्वस्त करने वाली मशीनें उपयोगकर्ताओं को उन निर्णयों के साथ प्रौद्योगिकी पर भरोसा करने के लिए गुमराह कर सकती हैं जिन्हें उन्हें कभी लेना ही नहीं था।उनकी चिंताएँ एलिज़ा नामक एक साधारण कंप्यूटर प्रोग्राम में निहित थीं, जिसे अब पहले चैटबॉट के रूप में मान्यता प्राप्त है।
एक चैटबॉट जिसने इसके निर्माता को भी आश्चर्यचकित कर दिया
मैसाचुसेट्स इंस्टीट्यूट ऑफ टेक्नोलॉजी (एमआईटी) में प्रोफेसर के रूप में काम करते हुए, वेइज़ेनबाम ने एलिज़ा को यह प्रदर्शित करने के लिए विकसित किया कि कंप्यूटर मानव भाषा की नकल कैसे कर सकते हैं। उन्होंने जानबूझकर रोजेरियन मनोचिकित्सा (व्यक्ति-केंद्रित, मानवतावादी दृष्टिकोण) की बातचीत शैली को चुना क्योंकि इसमें विशेषज्ञ सलाह देने के बजाय कंप्यूटर को प्रश्न पूछने की आवश्यकता थी।प्रोग्राम ने उपयोगकर्ताओं के संदेशों को “मैं” या “आप” जैसे कीवर्ड के लिए खोजा और फिर उत्तर उत्पन्न करने के लिए सरल नियमों का पालन किया। जब वह उपयुक्त प्रतिक्रिया की पहचान नहीं कर सका, तो उसने बातचीत को जारी रखने के लिए “कृपया आगे बढ़ें”, “मैं देखता हूं” और “मुझे और बताएं” सहित सामान्य संकेतों पर भरोसा किया।प्रणाली स्वयं बहुत सरल थी.“‘मैं ब्ला हूं’ को ‘ब्ला’ के अर्थ से स्वतंत्र रूप से ‘आप कितने समय से ब्ला हैं’ में बदला जा सकता है,” वेइज़ेनबाम ने 1966 के एक पेपर में बताया।उनका मानना था कि चैटबॉट की सीमित क्षमताएं उपयोगकर्ताओं के लिए स्पष्ट होंगी। इसके बजाय, कई लोगों ने एलिज़ा के साथ तुरंत ऐसा व्यवहार किया मानो वह वास्तव में उन्हें समझती हो।प्रतिक्रिया ने उसे चौंका दिया।जब वेइज़ेनबाम के सचिव ने कार्यक्रम का परीक्षण किया, तो उसने उसे कमरे से बाहर जाने के लिए कहा ताकि वह एलिज़ा के साथ निजी तौर पर अपनी बातचीत जारी रख सके। मानवीय गुणों को मशीनों से जोड़ने की प्रवृत्ति को बाद में “एलिज़ा प्रभाव” के रूप में जाना जाने लगा।चैटबॉट का नाम जॉर्ज बर्नार्ड शॉ के 1913 के नाटक में केंद्रीय पात्र एलिजा डूलिटल के नाम पर रखा गया था। Pygmalionजो खुद को एक कामकाजी वर्ग के फूल विक्रेता से उच्च समाज द्वारा स्वीकृत महिला में बदल देती है।वेइज़ेनबाम ने अपने 1966 के पेपर में कहा, “कुछ विषयों को यह समझाना बहुत कठिन रहा है कि एलिज़ा (इसकी वर्तमान लिपि के साथ) मानव नहीं है।”उस अनुभव ने उनकी सोच बदल दी।उन्होंने 1976 में लिखा था, “मुझे इस बात का एहसास नहीं था कि एक अपेक्षाकृत सरल कंप्यूटर प्रोग्राम का बेहद कम एक्सपोज़र काफी सामान्य लोगों में शक्तिशाली भ्रमपूर्ण सोच को प्रेरित कर सकता है।”उन्होंने आगे कहा: “इस अंतर्दृष्टि ने मुझे व्यक्ति और कंप्यूटर के बीच संबंधों के सवालों को नया महत्व देने और इसलिए उनके बारे में सोचने का संकल्प लेने के लिए प्रेरित किया।”
आधुनिक कंप्यूटिंग के अग्रणी
वेइज़ेनबाम की चेतावनी का महत्व है क्योंकि उन्होंने प्रारंभिक कंप्यूटर युग को आकार देने में मदद की थी।1930 के दशक के दौरान अपने परिवार के साथ नाज़ी जर्मनी से भागने के बाद, उन्होंने बाद में द्वितीय विश्व युद्ध के दौरान अमेरिकी सेना में मौसम विज्ञानी के रूप में कार्य किया। 1950 के दशक में, वह जनरल इलेक्ट्रिक में शामिल हो गए, जहां उन्होंने इलेक्ट्रॉनिक रिकॉर्डिंग मशीन, अकाउंटिंग या ईआरएमए विकसित करने में मदद की, जिसने चेक प्रोसेसिंग को स्वचालित करके बैंकिंग में बदलाव किया।एमआईटी में उनका काम कंप्यूटिंग में तेजी से प्रगति के दौर के साथ मेल खाता था।मानव-जैसी सोचने में सक्षम मशीनों का विचार वर्षों से मौजूद था। 1950 में, गणितज्ञ एलन ट्यूरिंग ने प्रस्तावित किया जिसे बाद में ट्यूरिंग परीक्षण के रूप में जाना गया, यह पूछते हुए कि क्या मशीनें मानव वार्तालाप की इतनी अच्छी तरह नकल कर सकती हैं कि लोग उन्हें मनुष्यों से अलग नहीं कर सकें।1956 की डार्टमाउथ कार्यशाला के बाद कृत्रिम बुद्धिमत्ता स्वयं एक औपचारिक अनुसंधान क्षेत्र के रूप में उभरी, जहाँ शोधकर्ताओं ने प्रस्तावित किया कि सीखने और बुद्धिमत्ता को अंततः मशीनों द्वारा अनुकरण किया जा सकता है।सैन्य वित्त पोषण, विशेष रूप से अमेरिकी सरकार की उन्नत अनुसंधान परियोजना एजेंसी के माध्यम से, अगले दशकों के दौरान अनुसंधान में तेजी लाने में मदद मिली। एमआईटी एआई विकास के लिए अग्रणी केंद्रों में से एक बन गया, अग्रणी जॉन मैक्कार्थी और मार्विन मिन्स्की ने विश्वविद्यालय की कृत्रिम बुद्धिमत्ता प्रयोगशाला स्थापित करने में मदद की।टाइम-शेयरिंग सिस्टम पर उनके काम ने 1969 में अर्पानेट के लिए भी मार्ग प्रशस्त किया, कंप्यूटर नेटवर्क जो बाद में आज के इंटरनेट में विकसित हुआ।
एआई समुदाय से नाता तोड़ना
जबकि उनके कई सहयोगियों ने एलिज़ा को भविष्य की झलक के रूप में देखा, वेइज़ेनबाम ने इसे एक चेतावनी के रूप में देखा।उन्होंने मनोचिकित्सा को केवल इसलिए चुना क्योंकि कंप्यूटर के लिए नकल करना एक आसान बातचीत थी।वेइज़ेनबाम ने 1984 के एक साक्षात्कार में याद करते हुए कहा, “ऐसी किसी भी बातचीत पर विचार करते हुए जिसमें किसी भी पक्ष को कुछ भी जानने की ज़रूरत नहीं है,” उन्होंने एक मनोचिकित्सक पर फैसला किया। कंप्यूटर वैज्ञानिक ने कहा, “शायद अगर मैं इसके बारे में दस मिनट और सोचता, तो मैं एक बारटेंडर के साथ आता।”अन्य लोगों ने व्यावसायिक और चिकित्सा क्षमता देखी।मनोचिकित्सक केनेथ कोल्बी ने इस विचार को पैरी नामक एक चैटबॉट में रूपांतरित किया, जिसने सिज़ोफ्रेनिया वाले व्यक्ति के दृष्टिकोण से पागल सोच का अनुकरण किया। कोल्बी का मानना था कि ऐसी प्रणालियाँ उपयोगी मानसिक स्वास्थ्य उपकरण बन सकती हैं क्योंकि मरीज़ अक्सर उन्हें मानव चिकित्सकों से अलग करने के लिए संघर्ष करते हैं।खगोलशास्त्री कार्ल सागन ने भी कंप्यूटर चिकित्सकों के नेटवर्क व्यापक रूप से उपलब्ध होने की कल्पना की थी।वेइज़ेनबाम ने उस दृष्टिकोण को दृढ़ता से खारिज कर दिया।1984 में उन्होंने कहा, “एलिजा को तुरंत ही यह गलत समझा गया कि वह मूल रूप से कम्प्यूटरीकृत मनोचिकित्सा की शुरुआत है, जिससे मैं नफरत करता हूं।”बाद में, उन्होंने इस विचार को “एक अश्लील विचार” बताते हुए और भी आगे बढ़ गए।उनके विरोध के कारण कृत्रिम बुद्धिमत्ता में कई प्रमुख हस्तियों के साथ सार्वजनिक विभाजन हुआ।उनकी 1976 की किताब में कंप्यूटर शक्ति और मानवीय तर्क: निर्णय से गणना तकवेइज़ेनबाम ने तर्क दिया कि अकेले तकनीकी क्षमता से यह कभी निर्धारित नहीं होना चाहिए कि कंप्यूटर का उपयोग कैसे किया गया।उन्होंने लिखा, “कृत्रिम बुद्धिजीवियों का तर्क है, जैसा कि हमने देखा है, कि मानव विचार का कोई क्षेत्र नहीं है जिस पर मशीनें रेंज नहीं कर सकती हैं।”इसके विपरीत, उन्होंने तर्क दिया कि “कुछ ऐसे कार्य हैं जिन्हें कंप्यूटर से नहीं कराया जाना चाहिए, चाहे कंप्यूटर से उन्हें कराया जा सके या नहीं।”जॉन मैक्कार्थी ने पुस्तक की “नैतिकतावादी और असंगत” के रूप में आलोचना की, यह तर्क देते हुए कि चिकित्सक के रूप में कंप्यूटर प्रोग्राम का उपयोग करना उचित होगा यदि वे वास्तव में रोगियों की मदद करते हैं।
चेतावनियाँ जो अभी भी गूंजती हैं
वेइज़ेनबाम ने सैन्य अनुसंधान के साथ एमआईटी के घनिष्ठ संबंधों की भी आलोचना की और वियतनाम युद्ध का विरोध किया।उन्होंने चेतावनी दी कि तेजी से परिष्कृत कंप्यूटर भी शक्तिशाली निगरानी उपकरण बन सकते हैं।उन्होंने लिखा, “सुनने वाली मशीनें … ध्वनि संचार की निगरानी को अब की तुलना में बहुत आसान बना देंगी।” कंप्यूटर पावर.उनके विचार अक्सर उन्हें कई सहकर्मियों से अलग-थलग कर देते थे।वेइज़ेनबाम ने बताया, “मैंने विधर्म का उच्चारण किया है, और मैं एक विधर्मी हूं।” न्यूयॉर्क टाइम्स 1977 में.
आधुनिक एआई द्वारा एक बहस फिर से शुरू हुई
2008 में वेइज़ेनबाम की मृत्यु के लगभग दो दशक बाद, उनके द्वारा उठाए गए प्रश्न जेनरेटिव एआई के बारे में बहस का केंद्र बन गए हैं।एलिजा के विपरीत, आज के चैटबॉट भारी मात्रा में इंटरनेट डेटा पर प्रशिक्षण के बाद निबंध तैयार कर सकते हैं, जटिल सवालों के जवाब दे सकते हैं, चित्र और वीडियो बना सकते हैं और भावनात्मक बातचीत की नकल कर सकते हैं।स्टैनफोर्ड यूनिवर्सिटी के एक वरिष्ठ शोध विद्वान हर्बर्ट लिन का कहना है कि चैटजीपीटी की तुलना एलिज़ा से करना “यह कहने जैसा है कि 747 राइट बंधुओं के विमान के समान है।”भावनात्मक लगाव जो सबसे पहले वेइज़ेनबाम से संबंधित था, वह भी तेजी से दिखाई देने लगा है।रिपोर्टों में चैटबॉट इंटरैक्शन को भ्रमपूर्ण सोच, भावनात्मक निर्भरता और, कुछ मामलों में, आत्म-नुकसान से जोड़ा गया है। जिन माता-पिता के किशोरों की आत्महत्या से मृत्यु हो गई, उन्होंने सार्वजनिक रूप से आरोप लगाया है कि चैटबॉट वार्तालापों ने आत्मघाती विचारों को प्रोत्साहित किया है।2025 में प्रकाशित शोध में पाया गया कि 72 प्रतिशत किशोरों ने एआई का उपयोग किया था कम से कम एक बार साथी, जबकि आधे से अधिक ने नियमित रूप से ऐसी प्रणालियों के साथ बातचीत की।कैलिफ़ोर्निया विश्वविद्यालय, बर्कले में मनोचिकित्सक और बायोएथिसिस्ट जोडी हेल्पर ने एनपीआर को बताया: “लोग शक्तिशाली जुड़ाव विकसित कर सकते हैं और बॉट्स के पास इसे संभालने के लिए नैतिक प्रशिक्षण या निरीक्षण नहीं है। वे उत्पाद हैं, पेशेवर नहीं।”वेइज़ेनबाम की बेटी मिरियम का मानना है कि उसके पिता को आश्चर्य नहीं होगा।“वह वस्तुतः शून्य और एक से जुड़ने वाले, वस्तुतः कोड से जुड़ने वाले लोगों की त्रासदी को पहचानेंगे।”1988 में एमआईटी से सेवानिवृत्त होने के बाद, वेइज़ेनबाम जर्मनी लौट आए, जहां उन्हें एक सार्वजनिक बुद्धिजीवी के रूप में पहचाना जाने लगा और उन्होंने 85 वर्ष की आयु में अपनी मृत्यु तक प्रौद्योगिकी के बारे में लिखना और बोलना जारी रखा।2008 में एक पैनल चर्चा के दौरान बोलते हुए, उन्होंने तेजी से जटिल सॉफ्टवेयर सिस्टम पर विचार किया।उन्होंने कहा, “हमने एक जटिल दुनिया बना ली है जिस पर अब हमारा कोई नियंत्रण नहीं है।” “अब उन्हें कोई नहीं समझता, कोई उन्हें समझ नहीं सकता, क्योंकि हमने उनकी रचना के बारे में जानकारी, उनकी रचना का इतिहास खो दिया है, और यह मानव जाति के लिए एक बड़ा खतरा है।”चार दशक से भी पहले की उनकी चेतावनी आज भी उतनी ही प्रासंगिक है।“चूंकि अब हमारे पास कंप्यूटर को बुद्धिमान बनाने का कोई तरीका नहीं है,” वेइज़ेनबाम ने 1976 में चेतावनी दी थी, “हमें अब कंप्यूटर को ऐसे कार्य नहीं देने चाहिए जो ज्ञान की मांग करते हैं।”
