QuickLY
Socially
हाल ही में, OpenAI ने ChatGPT के भीतर GPT-4o की नई इमेज जनरेशन क्षमता को लॉन्च किया है, और इसके बाद से उपयोगकर्ताओं ने 700 मिलियन से अधिक इमेजेस बनाई हैं. इनमें से कई उपयोगकर्ता स्टूडियो घिबली-स्टाइल के पोर्ट्रेट्स (Studio Ghibli-Style Portraits) बनाने में इस नई क्षमता का उपयोग कर रहे हैं. हालांकि, जैसे-जैसे इस तकनीक के बारे में जागरूकता बढ़ रही है, वैसे-वैसे इसके दुरुपयोग का खतरा भी बढ़ रहा है.
कुछ सोशल मीडिया उपयोगकर्ताओं ने ChatGPT की इमेज जनरेटर का इस्तेमाल करके फर्जी आधार कार्ड की छवियाँ बनानी और शेयर करनी शुरू कर दी हैं. यह समस्या बहुत ही गंभीर है, क्योंकि ChatGPT की नई क्षमता से फोटोरियलिस्टिक (Photorealistic) इमेजेस बनाई जा सकती हैं. एक परीक्षण के दौरान, ChatGPT से आधार कार्ड जैसी इमेज बनाने का प्रयास किया गया है, और परिणाम असली आधार कार्ड से बहुत मेल खाते थे, बस चेहरे के विवरण में थोड़ी असमानता पाई गयी है.
Ok, so ChatGPT can create Aadhaar images. Thats not the interesting thing. The interesting thing is where did it get the Aadhar photos data for training? pic.twitter.com/kb6lvuD04E
— nutanc (@nutanc) April 3, 2025
ChatGPT is generating fake Aadhaar and PAN cards instantly, which is a serious security risk.
This is why AI should be regulated to a certain extent.@sama @OpenAI pic.twitter.com/4bsKWEkJGr
— Yaswanth Sai Palaghat (@yaswanthtweet) April 4, 2025
फर्जी पैन कार्ड भी बना रहे हैं लोग
ChatGPT का दुरुपयोग सिर्फ आधार कार्ड तक सीमित नहीं है. सूत्रों के अनुसार, ChatGPT पैन कार्ड जैसी पहचान पत्रों को भी बेहद सटीक तरीके से बना सकता है. आधार कार्ड, जिसे भारतीय विशिष्ट पहचान प्राधिकरण (UIDAI) द्वारा जारी किया जाता है, और पैन कार्ड, जिसे आयकर विभाग द्वारा जारी किया जाता है, दोनों का दुरुपयोग किया जा रहा है.
Bro… ChatGPT just generated a fake PAN card in seconds. Imagine if this tech gets into the wrong hands — Aadhar, PAN, IDs, everything can be replicated. This is cool and terrifying. We’re not ready. pic.twitter.com/qxiKlmF4pR
— Atharv Lad (@atharv_lad) April 4, 2025
ChatGPT की नई इमेज जनरेशन क्षमता पर लगाम की जरुरत
ChatGPT की नई इमेज जनरेशन क्षमता से यह संभव हो गया है, कि चैटबॉट सीधे इमेजेस बना सके, बजाय इसके कि वह बाहरी मॉडल जैसे DALL-E 3 पर निर्भर रहे. यह मॉडल उपयोगकर्ताओं के निर्देशों को ध्यान से पालन करके ज्यादा सटीक और बारीक इमेजेस बना सकता है.
OpenAI ने अपनी GPT-4o Native Image Generation प्रणाली कार्ड में यह स्वीकार किया है, कि यह नई क्षमता पहले के DALL-E मॉडल्स से अधिक जोखिम पैदा कर सकती है. कंपनी का कहना है, ‘DALL-E की तुलना में, GPT-4o इमेज जनरेशन एक ऑटोरिग्रेसिव मॉडल है, जो ChatGPT में एम्बेडेड है, यह बदलाव नए क्षमताओं को जन्म देता है, जो पिछले मॉडल्स से अलग हैं, और इससे नए खतरे पैदा हो सकते हैं.’
विशेषज्ञो का यह मानना है, की आधार कार्ड की सत्यता को ट्रैक करना अभी भी आसान है, क्योंकि कार्ड विवरण और चेहरे की जानकारी को बैक-एंड सिस्टम से मिलाकर सत्यापित किया जा सकता है. हालांकि, पैन कार्ड और ड्राइविंग लाइसेंस जैसे अन्य सरकारी पहचान पत्रों की वास्तविकता को सत्यापित करना अधिक चुनौतीपूर्ण हो सकता है. विशेषज्ञो का कहना है, की आधार एक सरल मामला है, क्योंकि टेक्स्ट और चेहरा दोनों को बैक-एंड सिस्टम से चेक किया जा सकता है. लेकिन पैन और ड्राइविंग लाइसेंस जैसे ID कार्ड्स में चेहरा नहीं होता, इसलिए इनमें किसी भी तरह की छेड़छाड़ को आसानी से नहीं पकड़ा जा सकता है.
