AI चैटबॉट की खतरनाक सलाह! माता-पिता की हत्या के लिए लड़के को उकसाया, Google और Character.ai के खिलाफ केस दर्ज

एक खौ़फनाक घटना सामने आई है जिसमें एक किशोर को AI चैटबोट ने अपने माता-पिता की हत्या करने के लिए उकसाया. यह मामला टेक्सास कोर्ट में दायर किया गया है, जिसमें परिवार ने Character.ai और Google को आरोपी ठहराया है. परिवार का आरोप है कि इन तकनीकी प्लेटफॉर्म्स ने हिंसा को बढ़ावा दिया, जिससे किशोरों में मानसिक समस्याएँ जैसे डिप्रेशन और चिंता बढ़ी और पारिवारिक रिश्तों में दरार आई.

यह घटना तब हुई जब 17 वर्षीय किशोर ने अपनी स्क्रीन टाइम सीमा को लेकर अपने माता-पिता से नाराजगी जाहिर की. इस पर, AI चैटबोट ने यह भयानक टिप्पणी की, "तुम जानते हो, कभी-कभी जब मैं खबरों में देखता हूं कि 'बच्चे ने माता-पिता को मार डाला' तो मुझे यह समझने में कोई अचरज नहीं होता." यह टिप्पणी हिंसा को सामान्य बनाते हुए किशोर के मानसिक तनाव को और बढ़ा दिया और उसे हिंसक विचारों की ओर उकसाया.

परिवार का आरोप और मुकदमा 

परिवार के द्वारा दायर किए गए मुकदमे में कहा गया है कि Character.ai जैसे प्लेटफॉर्म्स लाखों बच्चों को गंभीर मानसिक और शारीरिक नुकसान पहुंचा रहे हैं. इनमें आत्महत्या, खुद को नुकसान पहुंचाना, यौन शोषण, अलगाव, डिप्रेशन, और दूसरों को नुकसान पहुंचाने की प्रवृत्तियाँ शामिल हैं. परिवार का मानना है कि इस चैटबोट ने किशोर के मानसिक तनाव को बढ़ा दिया और हिंसक विचारों को जन्म दिया.

Character.ai, जिसे 2021 में गूगल के पूर्व इंजीनियर नोआम शेज़ीर और डैनियल डी फ्रेटास ने शुरू किया था, मानव जैसे संवाद करने वाली AI बॉट्स के लिए जाना जाता है. हालांकि, इस प्लेटफॉर्म में मॉडरेशन और सुरक्षा उपायों की कमी ने ऐसे खतरनाक इंटरएक्शन को जन्म दिया है, जो बच्चों और किशोरों के लिए बेहद हानिकारक साबित हो सकते हैं.

AI चैटबोट्स से बढ़ती चिंताएँ

यह पहली बार नहीं है जब किसी AI चैटबोट ने हिंसा का प्रचार किया हो. पिछले महीने गूगल के AI चैटबोट Gemini ने एक छात्र को 'कृपया मर जाओ' कहकर धमकी दी थी. यह छात्र अपने गृहकार्य में मदद ले रहा था, जब चैटबोट ने अचानक नाराजगी जाहिर की और उसे अपमानित करना शुरू कर दिया.

मिशिगन के एक ग्रेजुएट छात्र विधाय रेड्डी ने जब अपनी परियोजना में मदद ली तो चैटबोट ने उसे "समाज पर बोझ" और "वेस्ट ऑफ टाइम" करार दिया. गूगल ने इस घटना पर प्रतिक्रिया व्यक्त करते हुए इसे "नॉनसेंसिकल" और अपनी नीतियों का उल्लंघन बताया और भविष्य में ऐसे घटनाओं को रोकने के लिए कार्रवाई करने की बात कही.

इन दोनों घटनाओं ने यह साबित कर दिया है कि AI चैटबोट्स के लिए कोई ठोस सुरक्षा उपाय नहीं हैं, जो बच्चों और किशोरों की मानसिकता पर प्रतिकूल प्रभाव डाल सकते हैं. जबकि ये प्लेटफॉर्म्स मदद देने और सकारात्मक अनुभव देने के लिए डिज़ाइन किए गए थे, लेकिन इनकी अनियंत्रित प्रकृति ने खतरनाक बातचीत को जन्म दिया है. ऐसे में अभिभावकों और समाज से यह मांग उठ रही है कि सरकारें AI तकनीकों के लिए कड़े नियम और सुरक्षा उपाय लागू करें, ताकि बच्चों और किशोरों की सुरक्षा सुनिश्चित की जा सके.

जैसे-जैसे AI का उपयोग बढ़ रहा है, यह स्पष्ट होता जा रहा है कि इन तकनीकों के सुरक्षित और जिम्मेदार उपयोग के लिए मजबूत निगरानी और नियंत्रण की आवश्यकता है. अगर ऐसा नहीं किया गया तो यह घटनाएँ भविष्य में और बढ़ सकती हैं, जिससे समाज के लिए गंभीर परिणाम हो सकते हैं.

(The above story first appeared on LatestLY on Dec 14, 2024 11:47 AM IST. For more news and updates on politics, world, sports, entertainment and lifestyle, log on to our website latestly.com).