मेटा CSAM विवाद: इंस्टाग्राम विज्ञापनों पर इलेक्ट्रॉनिक्स और आईटी मंत्रालय का कड़ा नोटिस, एआई मॉडरेशन की विफलताओं पर उठे गंभीर सवाल

नई दिल्ली: सोशल मीडिया प्लेटफॉर्म्स पर विज्ञापनों और सामग्री की निगरानी करने वाली आर्टिफिशियल इंटेलिजेंस (AI) तकनीकों की प्रभावशीलता पर एक बार फिर गंभीर सवाल खड़े हो गए हैं. भारत सरकार के इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (Ministry of Electronics and Information Technology) (MeitY) ने मेटा (Meta) के स्वामित्व वाले इंस्टाग्राम को एक सख्त और कड़ा नोटिस जारी किया है. सरकार ने इंस्टाग्राम को निर्देश दिया है कि वह बाल यौन शोषण और शोषण से जुड़ी सामग्री (CSAM/CSEAM) तक पहुंच को सुगम बनाने वाले सभी विज्ञापनों और सामग्रियों को तुरंत डिसेबल (अक्षम) करे. केंद्रीय आईटी मंत्री अश्विनी वैष्णव के निर्देशों के बाद जारी इस नोटिस में मेटा से सात दिनों के भीतर विस्तृत स्पष्टीकरण मांगा गया है कि आखिर उनकी स्वचालित समीक्षा प्रणाली को चकमा देकर ये पेड विज्ञापन प्लेटफॉर्म पर कैसे लाइव हो गए. यह भी पढ़ें: Instagram Ads Row: इंस्टाग्राम पर बाल यौन शोषण सामग्री से जुड़े विज्ञापनों पर केंद्र सख्त, Meta को नोटिस जारी कर 7 दिनों में मांगा जवाब

एआई मॉडरेशन के 'कॉन्टेक्स्टुअल ब्लाइंड स्पॉट्स' और चुनौतियां

बिजनेस स्टैंडर्ड और तकनीकी विशेषज्ञों की रिपोर्ट के अनुसार, यह विवाद दर्शाता है कि बड़े पैमाने पर हानिकारक सामग्री को फ्लैग करने की क्षमता रखने के बावजूद, वर्तमान एआई एल्गोरिदम अपराधियों के एडवांस तौर-तरीकों को पकड़ने में पूरी तरह सक्षम नहीं हैं.

अपराधी एआई सिस्टम को धोखा देने के लिए टेक्स्ट में कोडित भाषा (Coded Language), विशिष्ट इमोजी, क्रॉप्ड इमेज और हानिरहित दिखने वाले बाहरी लिंक का उपयोग करते हैं. चूंकि वर्तमान एआई मॉडल में संदर्भ की समझ (Contextual Interpretation) की कमी होती है, इसलिए वे इन बारीक बदलावों के पीछे छिपे आपराधिक इरादों को भांपने में विफल रह जाते हैं.

भारत जैसे विविध भाषाई परिवेश में यह समस्या और भी जटिल हो जाती है, जहां अलग-अलग बोलियों, स्लैंग (Slang), मिश्रित भाषाओं (जैसे हिंग्लिश) और हर दिन बदलते सांस्कृतिक शब्दों का उपयोग किया जाता है. इसके अतिरिक्त, जब अपराधी एक प्लेटफॉर्म (जैसे इंस्टाग्राम) पर विज्ञापन देकर यूजर्स को दूसरे प्लेटफॉर्म (जैसे टेलीग्राम) पर रीडायरेक्ट करते हैं, तो विभिन्न कंपनियों के इकोसिस्टम के बीच डेटा शेयरिंग न होने से 'डिटेक्शन गैप' (पहचान की कमी) पैदा हो जाता है.

एआई बनाम ह्यूमन-इन-द-लूप मॉडल की आवश्यकता

प्रौद्योगिकी और साइबर सुरक्षा विशेषज्ञों का स्पष्ट मानना है कि बाल सुरक्षा जैसे संवेदनशील मामलों में एआई को अंतिम निर्णयकर्ता (Decision-Maker) नहीं बनाया जा सकता। इसे केवल सुरक्षा की पहली दीवार के रूप में इस्तेमाल किया जाना चाहिए.

• ह्यूमन-इन-द-लूप (Human-in-the-Loop): सबसे प्रभावी रणनीति वह है जहां एआई अत्यधिक गति से लाखों पोस्ट्स की प्राथमिक स्क्रीनिंग करे, लेकिन कानूनी और सामाजिक बारीकियों को समझने के लिए अंतिम समीक्षा प्रमाणित मानव विशेषज्ञों (Human Experts) द्वारा की जाए.
• सेफ्टी-बाय-डिजाइन (Safety-by-Design): विशेषज्ञों का सुझाव है कि कंपनियों को प्रतिक्रियात्मक (Reactive) रुख अपनाने के बजाय किसी भी फीचर के विकास के शुरुआती चरण में ही सुरक्षा मानदंडों को इनबिल्ट करना चाहिए.

कड़े कानूनी प्रावधान और मेटा का पक्ष

भारत के डिजिटल कानूनों और सूचना प्रौद्योगिकी (IT) अधिनियम की धारा 67 (B) के तहत इलेक्ट्रॉनिक रूप में बच्चों से जुड़ी किसी भी अश्लील या शोषणकारी सामग्री को प्रसारित या प्रकाशित करना एक अत्यंत गंभीर और गैर-जमानती अपराध है. आईटी नियम 2021 के तहत यदि कोई सोशल मीडिया मध्यस्थ (Intermediary) ऐसी सामग्री को हटाने में उचित तत्परता नहीं दिखाता है, तो वह कानून के तहत मिलने वाले 'सेफ हार्बर' (सुरक्षित ठिकाने की सुरक्षा) संरक्षण को खो सकता है.

सरकार इस बात पर भी गंभीरता से विचार कर रही है कि क्या प्लेटफॉर्म्स पर दिखाए जाने वाले 'पेड विज्ञापनों' को भी सामान्य यूजर जनरेटेड कंटेंट की तरह कानूनी छूट मिलनी चाहिए या नहीं, क्योंकि विज्ञापनों से कंपनियां सीधे तौर पर राजस्व (Revenue) कमाती हैं.

मेटा का आधिकारिक स्पष्टीकरण: इस विवाद पर प्रतिक्रिया देते हुए मेटा के प्रवक्ता ने कहा, मेटा सीएसएएम (CSAM) को बढ़ावा देने वाली सामग्री को लेकर जीरो-टॉलरेंस (शून्य सहिष्णुता) की नीति अपनाता है. हम अपराधियों की पहचान करने के लिए उन्नत एआई तकनीक का उपयोग करते हैं, लेकिन हमारे 3.5 अरब यूजर्स के बीच छिपकर सिस्टम को चकमा देने वाले अपराधियों से हमारा निरंतर मुकाबला जारी है. हमारी टीमें अपनी सुरक्षा प्रणालियों को बेहतर बनाने और अन्य तकनीकी कंपनियों के साथ डेटा साझा करने के लिए लगातार काम कर रही हैं.