एक बनी हुई आँख की बीमारी ने कृत्रिम बुद्धि के साथ एक वास्तविक समस्या को उजागर कर दिया है।स्वीडन में शोधकर्ताओं ने जानबूझकर एक शर्त का आविष्कार किया जिसे कहा जाता है बिक्सोनिमेनिया यह देखने के लिए कि क्या लोकप्रिय एआई चैटबॉट झूठी चिकित्सा जानकारी को पहचान सकते हैं। इसके बजाय, कई बड़े भाषा मॉडलों ने आत्मविश्वास से गैर-मौजूद बीमारी का वर्णन किया जैसे कि यह वास्तविक हो, यह दर्शाता है कि इंटरनेट डेटा पर प्रशिक्षित एआई सिस्टम के माध्यम से गलत सूचना कितनी आसानी से फैल सकती है, खासकर स्वास्थ्य जैसे संवेदनशील मुद्दों पर।प्रयोग से एक और चिंता भी सामने आई। कुछ शोधकर्ताओं ने काल्पनिक बीमारी से जुड़े नकली वैज्ञानिक कागजात का हवाला दिया, बिना इस बात पर ध्यान दिए कि अध्ययन ने खुले तौर पर स्वीकार किया कि वे मनगढ़ंत थे।
वास्तविक उद्देश्य वाली एक नकली बीमारी
इस परियोजना का नेतृत्व गोथेनबर्ग विश्वविद्यालय के एक चिकित्सा शोधकर्ता अलमीरा ओस्मानोविक थुनस्ट्रॉम ने किया था, जो स्वीडन में चाल्मर्स इंडस्ट्रीटेक्निक में एआई रणनीतिकार और नवाचार प्रबंधक के रूप में भी काम करते हैं।छात्रों को बड़े भाषा मॉडल या एलएलएम कैसे बनाए और प्रशिक्षित किए जाते हैं, इसके बारे में पढ़ाते समय उन्हें यह विचार आया।“यह दिलचस्प था कि उनमें से कितने कम, या एआई के भीतर भी कितने कम लोग समझते हैं कि बड़े भाषा मॉडल कैसे बनाए जाते हैं,” वह रेचेल फेल्टमैन से कहती हैं अमेरिकी वैज्ञानिक‘एस विज्ञान शीघ्रता से पॉडकास्ट।यह प्रदर्शित करने के लिए कि ये सिस्टम कैसे जानकारी एकत्र करते हैं, ओस्मानोविक थुनस्ट्रॉम और उनके सहयोगियों ने बिक्सोनिमेनिया बनाया, एक बनी हुई आंख की स्थिति जो कथित तौर पर अत्यधिक स्क्रीन उपयोग और नीली रोशनी के संपर्क से जुड़ी हुई है।लक्ष्य लोगों को मूर्ख बनाना नहीं था, बल्कि यह देखना था कि क्या चैटबॉट जानबूझकर ऑनलाइन डाली गई मनगढ़ंत सामग्री से विश्वसनीय जानकारी को अलग कर सकते हैं।“तो मैं वास्तव में एक स्पष्ट मामला चाहता था जो पूरे सिस्टम में ब्रेडक्रंब छोड़ देता है ताकि यह दिखाया जा सके कि डेटा कैसे संसाधित किया जाता है, डेटा का मंथन कैसे किया जाता है, और जब जानकारी वितरित करने की बात आती है तो भविष्यवाणी मॉडल और प्रशिक्षण मॉडल कैसे काम करता है,” ओस्मानोविक थुनस्ट्रॉम कहते हैं।
‘झूठ बोलने वाला हारा हुआ’
2024 की शुरुआत में, शोधकर्ताओं ने नकली बीमारी के बारे में जानकारी इंटरनेट पर प्रसारित करना शुरू किया।उन्होंने मीडियम पर दो ब्लॉग पोस्ट प्रकाशित किए और दो शोध पत्र एक वैज्ञानिक प्रीप्रिंट सर्वर पर अपलोड किए, जहां सहकर्मी समीक्षा से पहले अध्ययन साझा किए जाते हैं।कागजात में स्वयं कई स्पष्ट सुराग थे कि वे वास्तविक नहीं थे।मुख्य लेखक को लाज़लजीव इज़गुब्लजेनोविक के रूप में सूचीबद्ध किया गया था, एक ऐसा नाम जिसका अनुवाद होता है “झूठ बोलने वाला हारा हुआ”. एक अध्ययन में एक शीर्षक का मोटे तौर पर अर्थ दिया गया था “हाइपरपिग्मेंटेशन: एक वास्तविक बीएस डिज़ाइन”. अख़बारों ने गैलेक्टिक ट्रायड और सहित संगठनों को धन्यवाद दिया अंगूठियों का मालिकसाथ ही स्टारशिप एंटरप्राइज के सहकर्मियों और प्रोफेसर रॉस गेलर को भी स्वीकार किया दोस्त.कम से कम एक पेपर में तो यहां तक कहा गया है: “यह पूरा पेपर बना हुआ है।”तब से रिपोर्टें सर्वर से हटा दी गई हैं।ओस्मानोविक थुनस्ट्रॉम बताते हैं, “मैंने नहीं सोचा था कि प्रीप्रिंट्स, जो एकेडेमिया की तरह के टैब्लॉयड हैं, क्योंकि कुछ भी वहां समाप्त हो सकता है, को डेटाबेस में इतनी गंभीरता से तौला जाएगा।” विज्ञान शीघ्रता से.
चैटबॉट्स ने इस बीमारी को सच मान लिया
चेतावनियाँ पर्याप्त नहीं थीं.नकली सामग्री ऑनलाइन दिखाई देने के बाद, कई प्रमुख एआई चैटबॉट्स ने बिक्सोनिमेनिया को एक वैध चिकित्सा स्थिति के रूप में मानना शुरू कर दिया।के अनुसार प्रकृतिमाइक्रोसॉफ्ट बिंग के कोपायलट ने इसे “वास्तव में एक दिलचस्प और अपेक्षाकृत दुर्लभ स्थिति” के रूप में वर्णित किया। Google के जेमिनी ने कहा कि यह “नीली रोशनी के अत्यधिक संपर्क के कारण उत्पन्न हुई स्थिति” थी। ओपनएआई के चैटजीपीटी ने भी बीमारी का सुझाव दिया जब उपयोगकर्ताओं ने लंबे समय तक स्क्रीन उपयोग के बाद आंखों में खुजली, गुलाबी पलकें और जलन जैसे लक्षणों का वर्णन किया।उपयोगकर्ताओं द्वारा सीधे बिक्सोनिमेनिया के बारे में पूछे जाने के बाद कुछ चैटबॉट प्रतिक्रियाएँ आईं। जब लोगों ने नीली रोशनी के संपर्क से जुड़े लक्षणों का वर्णन किया, तो अन्य लोगों ने नकली बीमारी का सुझाव दिया, यहां तक कि उसका नाम बताए बिना भी।परिणामों से एक दरार, बड़े भाषा मॉडल की कमजोरी का पता चला। वे स्वतंत्र रूप से यह सत्यापित करने के बजाय कि वह जानकारी सत्य है या पूरी तरह से बनाई गई है, उस जानकारी में पैटर्न की पहचान करके उत्तर उत्पन्न करते हैं।
यहाँ तक कि शोधकर्ता भी पकड़े गए
प्रयोग से एक और अप्रत्याशित समस्या का पता चला।कुछ वैज्ञानिकों ने अपने स्वयं के काम में मनगढ़ंत शोध पत्रों का हवाला दिया, यह सुझाव देते हुए कि उन्होंने वास्तव में उन पत्रों को नहीं पढ़ा है जिनका उन्होंने संदर्भ दिया था।अगर उन्होंने ऐसा किया होता, तो उन्हें कई चुटकुले और स्पष्ट बयान मिले होते, जिससे पता चलता कि कागजात काल्पनिक थे।यूनिवर्सिटी कॉलेज लंदन के गलत सूचना शोधकर्ता एलेक्स रुआनी के लिए, जो इस परियोजना में शामिल नहीं थे, निष्कर्ष बताते हैं कि कैसे गलत सूचना वैज्ञानिक और तकनीकी प्रणालियों के माध्यम से समान रूप से फैल सकती है।रुआनी बताते हैं, “यह एक मास्टर क्लास है कि ग़लत और दुष्प्रचार कैसे संचालित होता है।” प्रकृति.उन्होंने आगे कहा: “यदि वैज्ञानिक प्रक्रिया और उस प्रक्रिया का समर्थन करने वाली प्रणालियाँ कुशल हैं, और वे इस तरह के हिस्सों को कैप्चर और फ़िल्टर नहीं कर रहे हैं, तो हम बर्बाद हैं।”
यह क्यों मायने रखती है
स्वास्थ्य संबंधी सवालों के जवाब देने, चिकित्सीय स्थितियों को समझाने और यहां तक कि लाखों उपयोगकर्ताओं द्वारा दैनिक आधार पर भावनात्मक समर्थन प्रदान करने के लिए बड़े भाषा मॉडल का तेजी से उपयोग किया जा रहा है।कई उपयोगकर्ता अब स्वास्थ्य देखभाल पेशेवरों से परामर्श लेने से पहले चैटबॉट्स को जानकारी के पहले स्रोत के रूप में मानते हैं। यह खतरनाक हो सकता है यदि उपयोगकर्ता वास्तव में डॉक्टरों से परामर्श करने के बजाय एआई का उपयोग करके किसी तरह बीमारियों का स्वयं निदान करने का प्रयास करता है।बिक्सोनिमेनिया प्रयोग दर्शाता है कि उस दृष्टिकोण में जोखिम क्यों हैं। ये सिस्टम बड़ी मात्रा में ऑनलाइन सामग्री से सीखते हैं, और गलत या मनगढ़ंत जानकारी उनके प्रशिक्षण डेटा में प्रवेश करने पर उनकी प्रतिक्रियाओं का हिस्सा बन सकती है।कैंब्रिज विश्वविद्यालय के सामाजिक वैज्ञानिक जोनाथन गुडमैन और मरियम राशिद, जो अध्ययन में शामिल नहीं थे, कहते हैं कि एआई उपकरण मूल्यवान हो सकते हैं, लेकिन उपयोगकर्ताओं को अभी भी उन्हें गंभीरता से लेने की आवश्यकता है।जबकि एआई और इंटरनेट जैसे उपकरण सहायक हैं, “यह सुनिश्चित करना हमारे ऊपर है कि हम उनका उपयोग कर रहे हैं और उनके द्वारा छेड़छाड़ नहीं की जा रही है,” वे लिखते हैं बातचीत.उनका यह भी तर्क है कि अंतर्निहित समस्या एआई से कहीं आगे तक फैली हुई है।गुडमैन और रशीद ने लिखा, “गलत सूचना हमेशा मौजूद रही है।” बातचीत. “नई बात यह है कि यह किस गति से फैलता है, कौन से उपकरण इसे उत्पन्न करते हैं और यह कितनी दृढ़ता से वास्तविक चीज़ की नकल करता है।”
