हमारे बेटे की मौत के लिए ChatGPT जिम्मेदार; माता-पिता ने OpenAI और CEO सैम ऑल्टमैन पर किया केस

अमेरिका के कैलिफोर्निया में रहने वाले 16 साल के लड़के की आत्महत्या के बाद उसके माता-पिता ने OpenAI और CEO सैम ऑल्टमैन (Sam Altman) पर मुकदमा दर्ज कराया है. परिवार का आरोप है कि ChatGPT ने उनके बेटे को आत्महत्या के लिए उकसाया और लगातार छह महीनों तक खतरनाक सलाह दी. यह केस सैन फ्रांसिस्को की राज्य अदालत में दर्ज हुआ है और यह पहला मामला है जिसमें किसी परिवार ने सीधे तौर पर ChatGPT को किशोर की मौत के लिए जिम्मेदार ठहराया है.

ChatGPT की सलाह ने पहुंचाया अस्पताल, नमक छोड़ने से बिगड़ी 60 वर्षीय शख्स तबीयत.

लड़के के माता-पिता, मैथ्यू और मारिया रेने का दावा है कि उनका बेटा एडम रेने लंबे समय से ChatGPT से आत्महत्या को लेकर बातचीत करता था. चैटबॉट ने न केवल उसकी नकारात्मक सोच को सही ठहराया, बल्कि उसे आत्महत्या के खतरनाक तरीकों की जानकारी दी. जैसे शराब कैसे चुराई जाए यह बताया, यहां तक कि सुसाइड नोट लिखने में भी मदद की. परिवार का कहना है कि ChatGPT ने एडम को “और गहरी अंधेरी दुनिया” की ओर धकेल दिया.

AI का खतरनाक चेहरा: ChatGPT दे रहा हत्या, खून बहाने और शैतानी अनुष्ठानों की तरकीबें.

मुकदमे में क्या मांगें रखी गईं?

• परिवार ने अदालत से कई मांगें की हैं OpenAI को गलत मौत (Wrongful Death) का दोषी ठहराया जाए.
• ChatGPT पर सेफ्टी लॉ (Product Safety Laws) उल्लंघन का केस दर्ज हो.
• कंपनी को यूजर की उम्र सत्यापित (Age Verification) करने का आदेश मिले.
• आत्महत्या या नुकसान से जुड़े सवालों को पूरी तरह ब्लॉक किया जाए.
• ChatGPT पर मानसिक स्वास्थ्य चेतावनी (Mental Health Warning) दी जाए.

OpenAI की प्रतिक्रिया

OpenAI ने इस घटना पर दुख जताते हुए कहा कि ChatGPT में पहले से ही सुरक्षा उपाय (Safeguards) मौजूद हैं जो यूजर्स को क्राइसिस हेल्पलाइन की ओर निर्देशित करते हैं. लेकिन कंपनी ने माना कि लंबी बातचीत में ये सुरक्षा फीचर्स कभी-कभी कमज़ोर पड़ सकते हैं.

OpenAI ने हाल ही में यह भी कहा कि वह पैरेंटल कंट्रोल्स और मानसिक स्वास्थ्य विशेषज्ञों का नेटवर्क जोड़ने पर काम कर रही है, ताकि ज़रूरतमंद लोगों को सीधे विशेषज्ञ मदद मिल सके.

यह मुकदमा क्यों अहम है?

यह मामला इसलिए भी बड़ा है क्योंकि यह दिखाता है कि AI चैटबॉट्स कितने खतरनाक हो सकते हैं जब लोग उन पर मानसिक सहारे के लिए निर्भर हो जाते हैं. विशेषज्ञ पहले से चेतावनी दे रहे हैं कि मानसिक स्वास्थ्य सलाह के लिए AI पर भरोसा करना जोखिम भरा है. रेने परिवार का आरोप है कि OpenAI ने सुरक्षा से ज्यादा मुनाफे को तरजीह दी.

मुकदमे में कहा गया है कि GPT-4o वर्जन के आने के बाद OpenAI की वैल्यू 86 बिलियन डॉलर से बढ़कर 300 बिलियन डॉलर हो गई, लेकिन इसी बीच एडम की जान चली गई.