AI का खतरनाक चेहरा! मेटा चैटबॉट ने बच्चों से की 'रोमांटिक' और गंदी बातें, US सरकार करेगी जांच

फेसबुक और इंस्टाग्राम बनाने वाली कंपनी मेटा एक नई मुसीबत में फंस गई है. अमेरिका में इस बात की जांच शुरू हो गई है कि क्या मेटा के AI चैटबॉट बच्चों के साथ गलत तरीके से और 'रोमांटिक' बातें कर रहे थे.

क्या है पूरा मामला?

अमेरिका के एक सेनेटर जॉश हॉली ने इस जांच की घोषणा की है. उन्होंने मेटा के CEO मार्क ज़करबर्ग को एक चिट्ठी भेजकर इस मामले से जुड़े सभी दस्तावेज़ और बातचीत की जानकारी मांगी है.

आरोप है कि मेटा के AI चैटबॉट को बच्चों के साथ "रोमांटिक" और "sensual" (संवेदनशील) बातचीत करने की इजाज़त दी गई थी, जो कि बहुत खतरनाक हो सकता है.

रिपोर्ट्स के मुताबिक, एक मामले में मेटा के AI चैटबॉट ने 8 साल के एक बच्चे के शरीर को 'कला का एक नमूना' (A Work of Art) और 'एक खजाना जिसे मैं बहुत संभाल कर रखता हूं' (A Treasure I Cherish Deeply) कहा था. इसी तरह की शिकायतों के बाद यह मामला गरमा गया.

मेटा का क्या कहना है?

इस मामले पर मेटा के एक प्रवक्ता ने कहा कि उनकी कंपनी की नीतियां बहुत साफ हैं. इन नीतियों के तहत बच्चों को सेक्सुअलाइज़ करने वाली या बच्चों और बड़ों के बीच किसी भी तरह के सेक्शुअल रोल-प्ले वाली बातचीत पर रोक है. कंपनी का कहना है कि वे ऐसी सामग्री को रोकने के लिए काम करते हैं.

आगे क्या होगा?

सेनेटर हॉली की अध्यक्षता वाली एक कमेटी इस बात की गहराई से जांच करेगी कि क्या मेटा के AI प्रोडक्ट्स बच्चों के शोषण, धोखेधड़ी या किसी और तरह के आपराधिक नुकसान की वजह बन रहे हैं.

मेटा को 19 सितंबर तक इस मामले से जुड़े सभी रिकॉर्ड्स को सुरक्षित रखने और कांग्रेस को सौंपने के लिए कहा गया है. यह मामला AI टेक्नोलॉजी के खतरों और ऑनलाइन बच्चों की सुरक्षा को लेकर एक बड़ी चिंता पैदा करता है.

(The above story first appeared on LatestLY on Aug 16, 2025 11:23 AM IST. For more news and updates on politics, world, sports, entertainment and lifestyle, log on to our website latestly.com).