कर्टनी रोज़ेन और जोडी गोडॉय द्वारा
वाशिंगटन, – ट्रम्प प्रशासन ने मंगलवार को घोषणा की कि उसने अमेरिकी सरकार के वैज्ञानिकों को Google के डीपमाइंड, एक्सएआई और माइक्रोसॉफ्ट को शामिल करने के लिए जोखिम मूल्यांकन करने के लिए अप्रकाशित कृत्रिम बुद्धिमत्ता मॉडल तक पहुंच प्रदान करने के लिए एक कार्यक्रम का विस्तार किया है।
कंपनियों के अनुसार, चैटजीपीटी निर्माता ओपनएआई और क्लाउड के मालिक एंथ्रोपिक पहले से ही स्वेच्छा से यूएस सेंटर फॉर एआई स्टैंडर्ड्स एंड इनोवेशन, अमेरिकी सरकार के वैज्ञानिकों की टीम के साथ काम कर रहे थे, ताकि कमजोरियों के लिए अप्रकाशित मॉडल का परीक्षण किया जा सके।
यहां हम समीक्षाओं के बारे में जानते हैं:
अमेरिका का ध्यान किन जोखिमों पर है?
CAISI वेबसाइट के अनुसार, अमेरिकी सरकार के वैज्ञानिक “प्रत्यक्ष जोखिमों” पर ध्यान केंद्रित कर रहे हैं, जैसे कि यह जोखिम कि उन्नत मॉडल का उपयोग अमेरिकी बुनियादी ढांचे पर साइबर हमले शुरू करने के लिए किया जा सकता है। वे अमेरिकी विरोधियों के लिए रासायनिक या जैविक हथियार विकसित करने के लिए एआई का उपयोग करने या अमेरिकी एआई मॉडल को प्रशिक्षित करने के लिए उपयोग किए जाने वाले डेटा को भ्रष्ट करने के अवसरों को सीमित करना चाहते हैं।
कंपनियाँ क्या सौंपेंगी?
OpenAI GPT-5.5-साइबर का परीक्षण करने के लिए समूह के साथ काम कर रहा है, OpenAI के वैश्विक मामलों के प्रमुख क्रिस लेहेन ने मंगलवार को एक लिंक्डइन पोस्ट में कहा। GPT-5.5-साइबर रक्षात्मक साइबर सुरक्षा कार्य के लिए डिज़ाइन किए गए इसके नवीनतम मॉडल का एक प्रकार है।
कंपनी ने एक बयान में कहा, माइक्रोसॉफ्ट उन्नत एआई मॉडल का आकलन करने के लिए साझा डेटासेट और वर्कफ़्लो बनाने के लिए वैज्ञानिकों के साथ काम करेगा। Microsoft ने यह निर्दिष्ट नहीं किया कि कौन से मॉडल हैं।
एंथ्रोपिक ने CAISI को सार्वजनिक रूप से उपलब्ध और अप्रकाशित दोनों मॉडलों तक पहुंच प्रदान की, जिससे शोधकर्ताओं को “रेड-टीमिंग” या दुर्भावनापूर्ण अभिनेताओं के व्यवहार का अनुकरण करने वाली प्रक्रिया में कमजोरियों की जांच करने की अनुमति मिली, कंपनी ने सितंबर में कहा। कंपनी ने सीएआईएसआई को ज्ञात कमजोरियों और सुरक्षा तंत्रों पर विस्तृत दस्तावेज भी दिए।
एक प्रवक्ता ने कहा, Google डीपमाइंड, अल्फाबेट की एआई अनुसंधान शाखा, अपने “मालिकाना मॉडल” और डेटा तक पहुंच प्रदान करेगी।
एक्सएआई ने रॉयटर्स की टिप्पणी के अनुरोध का तुरंत जवाब नहीं दिया।
अमेरिका को अब तक क्या मिला है?
सीएआईएसआई के साथ एंथ्रोपिक के काम से पता चला कि यह दावा करने जैसी चालें कि मानव समीक्षा हुई थी, या पात्रों को प्रतिस्थापित करना, सुरक्षा तंत्र के आसपास हो सकता है, कंपनी ने कहा, इसने कमजोरियों को ठीक कर दिया है।
ओपनएआई ने सितंबर में कहा था कि उसने अपने चैटजीपीटी एजेंट में कमजोरियों की जांच के लिए सीएआईएसआई के साथ काम किया है, जो परिष्कृत अभिनेताओं को ओपनएआई के साइबर सुरक्षा उपायों को बायपास करने की अनुमति दे सकता है। कंपनी ने कहा, इस शोषण से हमलावर को “उस सत्र के लिए एजेंट द्वारा एक्सेस किए जा सकने वाले कंप्यूटर सिस्टम को दूरस्थ रूप से नियंत्रित करने और उनके द्वारा लॉग इन की गई अन्य वेबसाइटों के लिए उपयोगकर्ता का सफलतापूर्वक प्रतिरूपण करने की अनुमति मिल जाती।”
मेटा, अमेज़ॅन और इन्फ्लेक्शन एआई के साथ कंपनियां 2023 में स्वतंत्र विशेषज्ञों को जैव सुरक्षा और साइबर सुरक्षा जोखिमों के लिए अपने मॉडल की जांच करने की अनुमति देने पर सहमत हुईं।
पूर्व अमेरिकी राष्ट्रपति जो बिडेन के कार्यकाल के दौरान एक अलग नाम के तहत आयोजित अमेरिकी सरकार के वैज्ञानिकों ने एआई मॉडल द्वारा निजी स्वास्थ्य जानकारी लीक करने या गलत उत्तर देने के जोखिम से बचाने के लिए स्वैच्छिक दिशानिर्देश भी जारी किए।
उनकी वेबसाइट के अनुसार, वैज्ञानिक अब अपने एआई सिस्टम का परीक्षण करने के लिए संचार और आपातकालीन सेवा क्षेत्रों जैसे महत्वपूर्ण बुनियादी ढांचा प्रदाताओं के लिए दिशानिर्देशों पर काम कर रहे हैं।
यह लेख पाठ में कोई संशोधन किए बिना एक स्वचालित समाचार एजेंसी फ़ीड से तैयार किया गया था।
