What is Deepfake? डीपफेक वीडियो से सुपरस्टार परेशान, आप भी हो सकते हैं शिकार! जानें कितना खतरनाक है ये AI टूल

नई दिल्ली, 12 नवंबर : डीपफेक, जो पहली बार 2019 में मेटा सीईओ मार्क जुकरबर्ग और पूर्व यूएस हाउस स्पीकर नैन्सी पेलोसी के फर्जी वीडियो के साथ सामने आया, 21वीं सदी में फोटोशॉपिंग का विकल्प है - कृत्रिम बुद्धिमत्ता (एआई) के एक रूप के माध्यम से, जिसे गहन शिक्षण कहा जाता है, की मदद से मशहूर हस्तियों की तस्वीरें और वीडियो बनाना. यदि आपने पूर्व अमेरिकी राष्ट्रपति बराक ओबामा को डोनाल्ड ट्रम्प को "पूरी तरह से मूर्ख" कहते हुए देखा है, या जुकरबर्ग को "अरबों लोगों के चुराए गए डेटा पर पूर्ण नियंत्रण" रखते हुए देखा है - और हाल ही में अभिनेत्री रश्मिका मंदाना का एक डीपफेक वीडियो जो सोशल मीडिया पर वायरल हुआ है - आप शायद जानते होंगे कि डीपफेक क्या है.

विशेषज्ञों के अनुसार, डीपफेक, जो सम्मोहक और एआई-जनरेटेड वीडियो या ऑडियो रिकॉर्डिंग हैं, के प्रचलन में हाल के दिनों में उल्लेखनीय वृद्धि देखी गई है. गजशील्ड इन्फोटेक के सीईओ सोनित जैन के अनुसार, इस उछाल का श्रेय डीपफेक तकनीक की बढ़ती पहुंच और विभिन्न डोमेन में इसके अनुप्रयोग को दिया जा सकता है. जैन ने आईएएनएस को बताया, “डीपफेक का उपयोग मनोरंजन, राजनीतिक हेरफेर और यहां तक कि धोखाधड़ी वाली गतिविधियों में भी हो रहा है. स्पष्ट सहमति के बिना डीपफेक निर्माण के लिए व्यक्तिगत डेटा के संग्रह और उपयोग को सीमित करने के लिए डेटा संरक्षण और गोपनीयता कानूनों को मजबूत किया जाना चाहिए.” यह भी पढ़ें: High-Profile Data Breaches: प्रवर्तन एजेंसियों के लिए मायावी अपराधियों को पकड़ना अब भी बड़ी चुनौती

डीपफेक का उपयोग फ़िशिंग हमलों में किया जा सकता है, जिससे कर्मचारियों को सुरक्षा से समझौता करने वाली कार्रवाई करने के लिए राजी किया जा सकता है. टीएमटी लॉ प्रैक्टिस के मैनेजिंग पार्टनर अभिषेक मल्होत्रा ने कहा कि तकनीकी प्रगति का एक स्याह पक्ष भी है, और दुर्भाग्य से, इस बार, प्रभाव बहुत बुरा है. मल्होत्रा ने कहा, “ऐसे ही अनुभवों का सामना अभिनेता अनिल कपूर को भी करना पड़ा और उन्होंने समाधान के लिए अदालत का दरवाजा खटखटाया. जैसा कि ऐसी स्थितियों में तार्किक होगा, अदालत ने अभिनेता के व्यक्तिगत अधिकारों को बरकरार रखा और उनकी प्रतिष्ठा और सद्भावना के दुरुपयोग को रोकने के उनके अधिकार को मान्यता दी.”

दिल्ली उच्च न्यायालय ने सितंबर में एक अंतरिम आदेश जारी किया, जिसमें कपूर के व्यक्तित्व अधिकारों की रक्षा की गई और विभिन्न संस्थाओं को उनकी सहमति के बिना वित्तीय लाभ के लिए उनकी छवि, नाम, आवाज या उनके व्यक्तित्व के अन्य तत्वों का दुरुपयोग करने से रोका गया. कपूर ने अपने व्यक्तित्व अधिकारों की सुरक्षा की मांग की, जिसका उद्देश्य अज्ञात व्यक्तियों सहित विभिन्न संस्थाओं को उनके नाम, संक्षिप्त नाम 'एके', 'लखन', 'मिस्टर इंडिया', 'मजनू भाई' जैसे उपनामों और 'झकास' जैसे वाक्यांश के साथ ही उनकी आवाज और छवियों का उनकी अनुमति के बिना व्यावसायिक लाभ के लिए उपयोग करके उनके व्यक्तित्व अधिकारों का उल्लंघन करने से रोकना था.

मल्होत्रा ने आईएएनएस को बताया, “इस फैसले को एक संकेत के रूप में लिया जा सकता है कि इस क्षेत्र में नियम किस तरह दिख सकते हैं. बोलने और अभिव्यक्ति की स्वतंत्रता का प्रयोग कभी भी दूसरों की प्रतिष्ठा की कीमत पर या लोगों के निजी जीवन में अतिक्रमण करके नहीं किया जा सकता है." इसके अलावा, चूंकि फर्जी खबरों पर नकेल कसने के प्रयास पहले से ही चल रहे हैं, विशेषज्ञों को उम्मीद है कि एआई डीपफेक और मीम्स आदि के साथ भी ऐसा ही व्यवहार किया जाएगा. उनके अनुसार, मंदाना मामला देश में डीपफेक को संबोधित करने के लिए एक कानूनी और नियामक ढांचे की आवश्यकता को रेखांकित करता है. यह उभरता हुआ परिदृश्य एआई-जनित सामग्री और मीम्स को नियंत्रित करने वाले विशिष्ट कानूनों और विनियमों के विकास को जन्म दे सकता है, जो संभावित रूप से ऑनलाइन भाषण और रचनात्मक अभिव्यक्ति को प्रभावित कर सकता है.

यह अभिव्यक्ति की स्वतंत्रता पर भी सवाल उठाता है, खासकर मीम्स के संदर्भ में, क्योंकि यह मानव-निर्मित सामग्री की तुलना में एआई-जनित सामग्री की कानूनी स्थिति को संबोधित करता है. डीपफेक तकनीक सार्वजनिक हस्तियों की गोपनीयता और व्यक्तिगत अधिकारों के लिए एक महत्वपूर्ण खतरा पैदा करती है. जैसा कि मंदाना के मामले में देखा गया, इसका उपयोग ठोस नकली वीडियो बनाने के लिए किया जा सकता है जो संभावित रूप से किसी व्यक्ति की प्रतिष्ठा को नुकसान पहुंचा सकता है या कानूनी कार्रवाई के लिए भी उकसा सकता है.

राष्ट्रीय सुरक्षा के लिए खतरा पैदा करने वाली भ्रामक सामग्री बनाने के लिए डीपफेक तकनीक को हथियार बनाया जा सकता है. विशेषज्ञों के अनुसार, इसका उपयोग सार्वजनिक भावनाओं में हेरफेर करने, राजनेताओं या नेताओं के जाली वीडियो बनाने और संभावित रूप से अराजकता या संघर्ष को भड़काने के लिए किया जा सकता है. पिछले सप्ताह, केंद्रीय इलेक्ट्रॉनिक्स और आईटी राज्य मंत्री राजीव चंद्रशेखर ने कहा था कि जो लोग खुद को एआई-जनित डीपफेक से प्रभावित पाते हैं, उन्हें निकटतम थानों में प्राथमिकी दर्ज करानी चाहिए. सूचना प्रौद्योगिकी (आईटी) नियम, 2021 के तहत किसी भी यूजर द्वारा गलत सूचना के प्रसार को रोकना ऑनलाइन प्लेटफ़ॉर्म के लिए एक कानूनी दायित्व है. मंत्री ने कहा कि किसी यूजर या सरकारी प्राधिकरण से रिपोर्ट प्राप्त होने पर उन्हें 36 घंटों के भीतर ऐसी सामग्री को हटाने का आदेश दिया गया है. इस आवश्यकता का पालन करने में विफलता नियम 7 को लागू करती है, जो पीड़ित व्यक्तियों को अदालत में जाने का अधिकार देती है.