नई दिल्ली: एआई-जनित सिंथेटिक सामग्री और डीपफेक से बढ़ते खतरे से चिंतित, सरकार संभावित गलत सूचना के खिलाफ फेसबुक, इंस्टाग्राम, गूगल, यूट्यूब और एक्स जैसे शीर्ष सोशल मीडिया प्लेटफार्मों पर अधिक जवाबदेही तय करने के लिए आईटी कानून में संशोधन पर विचार कर रही है और प्रस्तावित किया है कि एआई और सोशल मीडिया प्लेटफॉर्म उपयोगकर्ताओं द्वारा आसान पहचान के लिए एआई-जनरेटेड सामग्री को स्पष्ट रूप से लेबल करें।इन्फोटेक मंत्री अश्विनी वैष्णव ने बुधवार को कहा कि सरकार को उपयोगकर्ताओं की गलत सूचना को रोकने के लिए सिंथेटिक सामग्री और डीपफेक के खिलाफ कदम उठाने के अनुरोध मिल रहे हैं।उन्होंने कहा, ”संसद के साथ-साथ कई अन्य मंचों पर लोगों ने मांग की है कि डीपफेक के बारे में कुछ किया जाना चाहिए, जो समाज को नुकसान पहुंचा रहे हैं।”
खुला, सुरक्षित, विश्वसनीय और जवाबदेह नेट सुनिश्चित करने के लिए प्रतिबद्ध: आईटी मिनट
लोग किसी प्रमुख व्यक्ति की छवि का उपयोग कर रहे हैं और डीपफेक बना रहे हैं, जो बाद में उनके व्यक्तिगत जीवन, गोपनीयता को प्रभावित कर रहा है और साथ ही समाज में विभिन्न गलतफहमियां पैदा कर रहा है। हम जो कदम उठा रहे हैं वह यह सुनिश्चित कर रहा है कि उपयोगकर्ताओं को पता चले कि कोई चीज कृत्रिम है या असली। एक बार उपयोगकर्ताओं को पता चल जाए, तो वे कॉल ले सकते हैं। यह महत्वपूर्ण है कि उपयोगकर्ता जानें कि कृत्रिम क्या है और वास्तविक क्या है। यह अंतर अनिवार्य डेटा लेबलिंग के माध्यम से किया जाएगा, ”आईटी मंत्री अश्विनी वैष्णव ने कहा।सिंथेटिक सामग्री के संबंध में मसौदा नियमों पर हितधारकों से 6 नवंबर तक टिप्पणियां मांगने वाले नोट में, आईटी मंत्रालय का कहना है कि वह सभी उपयोगकर्ताओं के लिए एक खुला, सुरक्षित, विश्वसनीय और जवाबदेह इंटरनेट सुनिश्चित करने के लिए प्रतिबद्ध है। “जेनरेटिव एआई टूल की बढ़ती उपलब्धता और कृत्रिम रूप से उत्पन्न जानकारी (आमतौर पर डीपफेक के रूप में जाना जाता है) के प्रसार के साथ, उपयोगकर्ता को नुकसान पहुंचाने, गलत सूचना फैलाने, चुनावों में हेरफेर करने या व्यक्तियों का प्रतिरूपण करने के लिए ऐसी प्रौद्योगिकियों के दुरुपयोग की संभावना काफी बढ़ गई है। इन जोखिमों को पहचानते हुए, और व्यापक सार्वजनिक चर्चाओं और संसदीय विचार-विमर्श के बाद, आईटी मंत्रालय ने सूचना प्रौद्योगिकी (मध्यवर्ती दिशानिर्देश और डिजिटल मीडिया आचार संहिता) नियम, 2021 में वर्तमान मसौदा संशोधन तैयार किया है।मंत्रालय ने कहा कि मसौदा नियमों का उद्देश्य मध्यस्थों, विशेष रूप से सोशल मीडिया मध्यस्थों और महत्वपूर्ण सोशल मीडिया मध्यस्थों के साथ-साथ उन प्लेटफार्मों के लिए उचित परिश्रम दायित्वों को मजबूत करना है जो कृत्रिम रूप से उत्पन्न सामग्री के निर्माण या संशोधन को सक्षम करते हैं।प्रस्तावित संशोधनों के माध्यम से, सरकार ऐसी जानकारी के लिए लेबलिंग और मेटाडेटा एम्बेडिंग आवश्यकताओं को अनिवार्य करते हुए सिंथेटिक रूप से उत्पन्न जानकारी की स्पष्ट परिभाषा चाहती है ताकि यह सुनिश्चित किया जा सके कि उपयोगकर्ता सिंथेटिक को प्रामाणिक सामग्री से अलग कर सकें। इसके अलावा, यह दृश्यता और श्रव्यता मानकों को चाहता है जिसके लिए सिंथेटिक सामग्री को प्रमुखता से चिह्नित किया जाना चाहिए, जिसमें न्यूनतम 10% दृश्य या प्रारंभिक ऑडियो अवधि कवरेज शामिल है। बिचौलियों से, यह “उन्नत सत्यापन और घोषणा दायित्व” चाहता है, जबकि यह पुष्टि करने के लिए उनकी ओर से उचित तकनीकी उपायों को अनिवार्य करता है कि क्या सामग्री कृत्रिम रूप से उत्पन्न हुई है जिसे तदनुसार लेबल किया जाना चाहिए। अलग से, मंत्रालय ने सोशल मीडिया प्लेटफार्मों पर सामग्री हटाने की अपील के संबंध में एक उचित तंत्र सुनिश्चित करने के लिए कदम उठाए हैं, इस काम के लिए केवल शीर्ष स्तर के अधिकारियों को अनिवार्य किया है।मंत्रालय ने निर्धारित किया है कि ‘गैरकानूनी जानकारी’ को हटाने के लिए सोशल मीडिया प्लेटफार्मों को सूचना केवल वरिष्ठ अधिकारियों द्वारा ही जारी की जा सकती है और इसके लिए सटीक विवरण और कारणों को निर्दिष्ट करने की आवश्यकता होगी, क्योंकि इसने सामग्री हटाने की प्रक्रियाओं को सुव्यवस्थित करने और कार्यों में पारदर्शिता, स्पष्टता और सटीकता लाने के लिए आईटी नियमों में संशोधन को अधिसूचित किया है।
